Kupas Tuntas, gemasulawesi - Revolusi kecerdasan buatan telah menghadirkan banyak layanan dan alat yang memudahkan kehidupan sehari-hari anda di berbagai bidang, baik itu pekerjaan, pendidikan, atau hiburan.
Hal ini juga telah mendorong perkembangan industri teknologi dengan pesat dalam waktu singkat.
Namun, beberapa orang, seperti Eric Schmidt, mengkhawatirkan skenario terburuk jika AI jatuh ke tangan yang salah.
Dilansir dari Android Headlines, mantan CEO Google, Eric Schmidt, berbagi perspektifnya tentang topik yang sering diabaikan banyak orang.
"Ketakutan sebenarnya yang saya miliki bukanlah yang dibicarakan kebanyakan orang tentang AI—saya berbicara tentang risiko ekstrem," katanya.
Schmidt merenungkan kasus ekstrem di mana kecerdasan buatan memfasilitasi serangan teroris.
Ia menyebutkan bahwa negara-negara seperti Korea Utara, atau bahkan Rusia, dapat memanfaatkan teknologi tersebut dengan cara yang paling buruk.
Eric Schmidt menyebutkan kemungkinan "serangan biologis yang buruk dari orang jahat," dan dengan ini ia merujuk pada potensi pengembangan senjata biologis yang dibantu oleh kecerdasan buatan.
"Saya selalu cemas dengan skenario 'Osama Bin Laden', ketika ada orang yang benar-benar jahat mengambil alih beberapa aspek kehidupan modern kita dan menggunakannya untuk menyakiti mereka yang tidak bersalah," tambahnya.
Platform AI utama telah menetapkan "penghalang" terhadap perintah yang berbahaya, termasuk memblokir output yang berpotensi berbahaya.
Akan tetapi, pengujian terbaru oleh Anthropic dan Cisco menunjukkan bahwa penghalang saat ini sangat tidak efektif.
Platform AI terburuk dalam hal ini adalah DeepSeek, yang mencetak Tingkat Keberhasilan Serangan (ASR) sebesar 100 persen.
Artinya, AI ini tidak dapat memblokir perintah yang terkait dengan kekhawatiran Schmidt: senjata biologis.
Yang lebih mengkhawatirkan, model seperti GPT 1.5 Pro dan Llama 3.1 405B juga mencetak tingkat ASR yang cukup tinggi (masing-masing 86 persen dan 96 persen).
Mantan CEO Google itu mengatakan bahwa ia mendukung regulasi pada perusahaan AI, namun ia juga memperingatkan bahwa regulasi yang berlebihan dapat memengaruhi inovasi di segmen tersebut.
Jadi, ia mendesak untuk menemukan keseimbangan antara pengembangan dan keamanan.
Sementara itu, Google baru-baru ini mengubah arah visinya untuk AI.
Perusahaan itu telah memperbarui kebijakannya yang membuka pintu untuk menawarkan teknologi AI-nya untuk pengembangan senjata dan pengawasan. (*/Armyanti)
