Tridinews.com - Kepala tim robotika di OpenAI, Caitlin Kalinowski, mengumumkan pengunduran dirinya setelah perusahaan menjalin kerja sama kontroversial dengan Departemen Pertahanan Amerika Serikat yang bermarkas di Pentagon.

Seperti dilaporkan TechCrunch pada Sabtu (7/3), Kalinowski menyatakan bahwa keputusan tersebut bukanlah langkah yang mudah. Ia menegaskan pengunduran diri itu didasarkan pada prinsip pribadi, bukan konflik dengan individu di perusahaan.

Sebelum bergabung dengan OpenAI pada November 2024, Kalinowski dikenal sebagai pemimpin pengembangan kacamata realitas tertambah di Meta.

Soroti Risiko Pengawasan dan Senjata Otonom

Dalam pernyataannya, Kalinowski menekankan bahwa kecerdasan buatan memiliki peran penting dalam keamanan nasional. Namun ia menilai ada batasan yang seharusnya lebih diperhatikan dalam penerapan teknologi tersebut.

Menurutnya, penggunaan AI untuk pengawasan terhadap warga Amerika tanpa pengawasan yudisial serta pengembangan senjata otonom tanpa otorisasi manusia merupakan hal yang perlu dikaji secara serius.

“AI memiliki peran penting dalam keamanan nasional. Tetapi pengawasan terhadap warga Amerika tanpa pengawasan yudisial dan otonomi mematikan tanpa otorisasi manusia adalah batasan yang seharusnya lebih dipertimbangkan,” tulisnya.

Melalui unggahan lanjutan di platform X, ia juga mengkritik cara pengumuman kerja sama tersebut yang dinilai terlalu tergesa-gesa.

“Masalah saya adalah pengumuman ini dibuat terburu-buru tanpa adanya batasan yang jelas. Ini merupakan persoalan tata kelola yang utama,” ujarnya.

OpenAI Pertahankan Kerja Sama

OpenAI telah mengonfirmasi pengunduran diri Kalinowski. Perusahaan menyatakan tetap yakin bahwa kerja sama dengan Pentagon dapat membuka jalan bagi penggunaan AI secara bertanggung jawab dalam bidang keamanan nasional.

Perusahaan menegaskan bahwa kerja sama tersebut memiliki batasan yang jelas, termasuk larangan penggunaan teknologi untuk pengawasan domestik maupun pengembangan senjata otonom.

“Kami percaya kesepakatan ini menciptakan jalur yang layak untuk penggunaan AI yang bertanggung jawab dalam keamanan nasional,” kata pihak perusahaan.

Bermula dari Negosiasi yang Gagal

Kesepakatan antara OpenAI dan Departemen Pertahanan AS diumumkan lebih dari sepekan lalu. Sebelumnya, Pentagon sempat melakukan pembicaraan dengan perusahaan AI lain, Anthropic.

Namun negosiasi tersebut gagal setelah Anthropic mencoba memasukkan perlindungan untuk mencegah teknologinya digunakan dalam pengawasan massal domestik atau pengembangan senjata otonom.

Pentagon kemudian menyebut Anthropic sebagai risiko dalam rantai pasokan, keputusan yang kini tengah digugat oleh perusahaan tersebut di pengadilan.

Setelah itu, OpenAI dengan cepat mengumumkan kesepakatan yang memungkinkan teknologinya digunakan dalam lingkungan rahasia militer.

Para eksekutif OpenAI menyatakan kerja sama tersebut menggunakan pendekatan berlapis, tidak hanya melalui klausul kontrak tetapi juga pengamanan teknis untuk memastikan pembatasan penggunaan teknologi.

Picu Kritik Publik

Meski demikian, kerja sama tersebut memicu kontroversi di kalangan publik dan pengguna teknologi.

Sejumlah konsumen menilai langkah itu berpotensi memperluas penggunaan AI dalam bidang militer dan pengawasan. Kontroversi tersebut bahkan dilaporkan memicu peningkatan jumlah pengguna yang menghapus aplikasi ChatGPT dari perangkat mereka.