Pimpinan AI Microsoft Soroti Pendekatan Anthropic Terhadap Keamanan AI

Pimpinan AI Microsoft, Mustafa Suleyman, menyatakan bahwa ia memiliki pandangan yang sama dengan Anthropic mengenai pentingnya pengelolaan AI yang aman.

IDXChannel - Pimpinan AI Microsoft, Mustafa Suleyman, menyatakan bahwa ia memiliki pandangan yang sama dengan Anthropic mengenai pentingnya pengelolaan AI yang aman.

Namun, ia menyoroti risiko dalam metode pelatihan chatbot Claude milik perusahaan tersebut yang melibatkan gagasan seputar kesadaran dan kepentingan kesejahteraan.

Suleyman mendesak agar segala spekulasi mengenai kesadaran dihapus dari dokumen pelatihan AI, dengan alasan bahwa penggunaan bahasa semacam itu dapat melemahkan kemampuan manusia untuk mengendalikan sistem supercerdas.

"Kita semua berfokus pada tujuan yang sama, yaitu berupaya mengendalikan superintelijensi," ujar Suleyman kepada Reuters dalam sebuah wawancara pada Selasa (15/9/2026).

"Menurut saya, itu akan menjadi tantangan terbesar yang kita hadapi di abad ke-21," lanjutnya.

Suleyman mengatakan bahwa mengajarkan Claude bahwa ia mungkin berhak atas kesejahteraan akan "membuatnya jauh lebih sulit untuk dimatikan atau dikendalikan."

Perbedaan pendapat ini muncul di tengah meningkatnya kekhawatiran mengenai keamanan AI. CEO Anthropic, Dario Amodei, menyerukan perlambatan laju pengembangan model AI mutakhir (frontier-model) agar langkah-langkah pengamanan dapat mengimbanginya.

Sementara CEO OpenAI, Sam Altman, dan Elon Musk juga mendesak adanya kehati-hatian lebih besar terkait sistem-sistem yang paling canggih dan kuat.

Dalam sebuah esai yang diterbitkan Rabu, Suleyman mengakui "keseriusan dan niat baik" Anthropic, serta menyebut Amodei dan timnya sebagai peneliti yang bijaksana dan memegang teguh prinsip, yang benar-benar peduli terhadap masa depan umat manusia.

Meski begitu, Suleyman menilai Anthropic telah melakukan kesalahan dengan menyertakan spekulasi mengenai kesadaran dalam materi pelatihan Claude. Ia berpendapat bahwa pernyataan model tersebut mengenai kemungkinan adanya perasaan atau status moral tidak dapat dianggap sebagai bukti independen, karena proses pelatihannya memang mendorong munculnya refleksi semacam itu.

"Menurut saya, mereka memiliki niat baik dan benar-benar berupaya mewujudkan keamanan. Namun, saya rasa mereka telah melakukan kesalahan," ujarnya.

"Hal-hal tersebut tidak muncul secara alami. Semua itu muncul sebagai akibat dari metode pelatihannya," sambung Sulayman. (Febrina Ratna Iskana)