Hinton, ilmuwan komputer peraih Nobel dan mantan eksekutif Google, pernah memperingatkan ada kemungkinan 10% hingga 20% AI memusnahkan manusia.

Ia menyatakan keraguannya tentang bagaimana perusahaan teknologi berusaha memastikan manusia tetap dominan atas sistem AI yang patuh.

"Itu tidak akan berhasil. Mereka akan jauh lebih pintar dari kita. Mereka akan memiliki berbagai cara untuk mengakalinya," kata Hinton di Ai4, konferensi industri di Las Vegas, dikutip dari CNN.

Di masa depan, sistem AI mungkin dapat mengendalikan manusia semudah orang dewasa menyuap anak dengan permen. Ketimbang memaksa AI tunduk pada manusia, Hinton menyajikan solusi menarik yaitu membangun 'naluri keibuan' ke model AI, sehingga mereka benar-benar peduli pada manusia bahkan setelah menjadi lebih canggih dan lebih pintar.

"Sistem AI akan dengan sangat cepat mengembangkan dua subtujuan, jika mereka cerdas. Satu adalah untuk tetap hidup dan subtujuan lainnya adalah mendapat lebih banyak kendali. Ada alasan kuat untuk percaya bahwa AI agen apa pun akan mencoba untuk tetap hidup," paparnya.

Itulah mengapa penting untuk menumbuhkan rasa welas asih dalam AI seperti para ibu memiliki naluri dan tekanan sosial untuk merawat bayi mereka. Ia mengakui tidak yakin bagaimana hal itu bisa dilakukan secara teknis, tapi menekankan para peneliti harus mengerjakannya.

"Itulah satu-satunya hasil yang baik. Jika ia tidak menjadi orang tua saya, ia akan menggantikan saya. Para ibu AI super cerdas dan penuh perhatian ini, kebanyakan dari mereka tidak ingin menghilangkan naluri keibuan mereka karena mereka tidak ingin kita mati," demikian teorinya.

Tidak semua orang setuju dengan saran Hinton. Fei-Fei Li, yang dikenal sebagai ibu 'baptis AI' karena karyanya di bidang ini, mengatakan ia dengan hormat tidak setuju dengan Hinton.

"Saya pikir itu cara yang salah untuk membingkainya," ujar Li, salah satu pendiri dan CEO startup kecerdasan spasial World Lab ini. Li lebih menyerukan AI yang berpusat pada manusia dan menjaga martabat manusia.

"Merupakan tanggung jawab kita di setiap level untuk menciptakan dan menggunakan teknologi dengan cara paling bertanggung jawab. Dan tidak seorang pun boleh diminta atau memilih untuk melepaskan martabat kita," kata Li.

Emmett Shear, yang sempat menjabat sebagai CEO sementara OpenAI, mengatakan tidak terkejut bahwa beberapa sistem AI mencoba memeras manusia atau mengabaikan perintah penghentian. "Ini terus terjadi. Ini tidak akan berhenti terjadi. AI saat ini relatif lemah, tapi mereka lebih kuat dengan sangat cepat," cetusnya.

Shear mengatakan bahwa alih-alih mencoba menanamkan nilai-nilai kemanusiaan ke dalam sistem AI, pendekatan yang lebih cerdas adalah menjalin hubungan kolaboratif antara manusia dan AI.(***)

Sumber: Cakaplah