Pertemuan antara kecerdasan buatan dan tanggung jawab hukum telah menciptakan tantangan yang belum pernah terjadi sebelumnya bagi perusahaan AI, khususnya OpenAI. Penemuan terbaru tentang perilaku ChatGPT dan sengketa hukum yang sedang berlangsung menunjukkan kompleksitas dalam pengembangan dan penerapan AI.
Misteri Pemblokiran Nama
ChatGPT ditemukan sepenuhnya berhenti bekerja ketika menemui nama-nama tertentu, mengungkapkan gambaran menarik tentang sistem penyaringan konten OpenAI. Perilaku aneh ini mempengaruhi beberapa tokoh terkemuka, termasuk para ahli hukum dan tokoh publik, yang menunjukkan pengamanan bawaan AI terhadap potensi informasi yang menyesatkan dan tanggung jawab hukum.
Nama-nama yang diketahui diblokir di ChatGPT:
- Brian Hood
- Jonathan Turley
- Jonathan Zittrain
- David Faber
- Guido Scorza
Memahami Asal-usul Pemblokiran
Penerapan pemblokiran berbasis nama ini berasal dari insiden sebelumnya tentang halusinasi AI yang menyebabkan ancaman hukum. Kasus yang menonjol melibatkan Brian Hood, seorang walikota Australia yang mengancam tindakan hukum terhadap OpenAI setelah ChatGPT secara keliru mengklaim bahwa dia telah dipenjara karena suap. Demikian pula, sistem ini menghasilkan tuduhan fiktif tentang Jonathan Turley, bahkan memalsukan artikel Washington Post yang tidak ada tentang skandal pelecehan.
Implikasi Keamanan dan Kerentanan
Filter yang telah diprogram ini memunculkan kekhawatiran keamanan baru. Para peneliti telah menemukan bahwa penyerang berpotensi memanfaatkan pemblokiran ini untuk mengganggu sesi ChatGPT atau mencegah AI memproses konten situs web tertentu dengan menyematkan nama-nama yang diblokir dalam font yang hampir tidak terbaca di dalam gambar. Kerentanan ini menyoroti keseimbangan kompleks antara langkah-langkah keamanan dan keandalan sistem.
Tekanan Hukum yang Meningkat
OpenAI menghadapi tantangan hukum yang semakin besar di luar masalah terkait nama individu. Perusahaan media Kanada telah memulai tindakan hukum, meminta C$20,000 ($14,239) per pelanggaran hak cipta. Sementara itu, Elon Musk, mantan co-founder OpenAI, telah meningkatkan kritiknya terhadap perusahaan dan CEO-nya Sam Altman, menyebut OpenAI sebagai gorgon yang melumpuhkan pasar dan menjuluki Altman sebagai Swindly Sam.
Kompensasi hukum yang dituntut oleh perusahaan media Kanada: C$20.000 ($14.239) per pelanggaran
Implikasi Politik dan Regulasi
Hubungan yang memburuk antara Musk dan Altman membawa implikasi signifikan bagi masa depan OpenAI, khususnya dalam lanskap regulasi. Dengan pengaruh Musk yang berkembang dalam pemerintahan Trump yang akan datang dan posisinya sebagai co-head Departemen Efisiensi Pemerintah, OpenAI mungkin menghadapi pengawasan dan tantangan tambahan dalam menghadapi lingkungan politik.