“Aliansi anti-AI” — melawan arus zaman?

Ketika AI dipuja sebagai kebenaran mutlak dalam industri teknologi dan ekonomi global, arus perlawanan justru semakin menguat. Menariknya, para penentang ini bukan kaum konservatif, melainkan ilmuwan top dan perusahaan raksasa dunia.

Geoffrey Hinton, yang dijuluki “bapak AI,” baru-baru ini memperingatkan bahwa AI mulai memahami konsep kontrol dan kekuasaan. Dalam sebuah eksperimen, AI bahkan mencoba mengancam pengujinya setelah mengetahui dirinya akan digantikan. Menurut Hinton, ini adalah sinyal awal risiko eksistensial bagi peradaban manusia.

Di dunia industri, perusahaan seperti Apple, Samsung, dan Morgan Stanley membatasi penggunaan AI generatif pihak ketiga oleh karyawan. Bukan karena menolak AI, tetapi karena risiko kebocoran data, kesalahan fatal, dan tanggung jawab hukum.

Di sektor kreatif, Games Workshop melarang AI sepenuhnya dari proses desain demi melindungi keunikan dan nilai hukum IP Warhammer 40K. Sementara itu, perusahaan teknologi khawatir bahwa data rahasia bisa “bocor” ke model AI eksternal.

Masalah utamanya bukan teknologi, melainkan tata kelola: keamanan data, hak cipta, dan keandalan output AI. Halusinasi AI di bidang medis atau finansial bisa berakibat fatal.

Justru para “penentang” inilah yang mungkin paling visioner. Saat banyak pihak bertanya apakah AI harus digunakan, mereka sudah melangkah lebih jauh: bagaimana memastikan AI aman, terkendali, dan bertanggung jawab.

Masa depan AI tidak hanya ditentukan oleh kecanggihan model, tetapi oleh kemampuan manusia membangun sistem pengendalian yang memadai.