Jakarta - KTT Keamanan Kecerdasan Buatan pertama di dunia akan berlangsung di London minggu depan. Mereka yang mengharapkan diskusi praktis tentang bahaya dan risiko AI dalam waktu dekat mungkin akan kecewa. Sebuah makalah diskusi baru yang dirilis menjelang KTT minggu ini penuh dengan kejutan, menawarkan sekilas gambaran tentang apa yang akan terjadi, termasuk senjata biologis yang dibuat oleh AI, serangan siber, dan bahkan romansa yang dikendalikan oleh AI.

Makalah setebal 45 halaman yang berjudul 'Kemampuan dan Risiko AI' merupakan rangkuman yang relatif sederhana mengenai apa yang dapat dan tidak dapat dilakukan oleh model AI generatif saat ini. Namun, di mana laporan tersebut mulai keluar jalur adalah ketika laporan tersebut mulai berspekulasi tentang sistem masa depan yang lebih kuat, yang dijuluki 'serangan AI'. Laporan tersebut memperingatkan tentang bencana AI yang paling dystopian, termasuk kemungkinan manusia kehilangan kendali atas sistem AI yang 'tidak selaras'.

Beberapa ahli risiko AI menerima kemungkinan ini, sementara yang lain menolak untuk mengagungkan skenario kiamat yang lebih spekulatif karena lebih dekat dan berpotensi lebih tidak berbahaya dalam jangka pendek. Para kritikus juga berpendapat bahwa konferensi tersebut tampaknya terlalu fokus pada kekhawatiran eksistensial dan tidak cukup pada ancaman yang lebih realistis.

Baca juga:
Teka-Teki Keikutsertaan Adnan di Pilgub Sulsel Terjawab

Dalam pidatonya pada hari Kamis, Perdana Menteri Inggris Rishi Snack menyatakan keprihatinannya tentang AI yang tidak selaras yang berpotensi berbahaya.

Menurut CNBC, Snack mengatakan bahwa "dalam kasus yang paling tidak mungkin tetapi ekstrem, bahkan ada bahaya bahwa manusia akan kehilangan kendali penuh atas AI karena jenis AI yang disebut superintelegensi". Di masa depan, Snack mengatakan bahwa ia berharap untuk membentuk 'panel ahli global' yang dinominasikan oleh negara-negara yang menghadiri KTT untuk menerbitkan laporan utama tentang AI