OpenAI, perusahaan di balik ChatGPT, telah mengumumkan dewan pengawas keamanan baru setelah melakukan tinjauan selama 90 hari, namun masih ada pertanyaan mengenai independensi dan efektivitas sebenarnya dari dewan tersebut.
Dewan baru dibentuk setelah tinjauan keamanan
Setelah menyelesaikan tinjauan keamanan yang ekstensif terhadap proses dan perlindungannya, OpenAI mengumumkan pembentukan dewan keamanan independen baru. Dewan ini akan memiliki kekuatan pengawasan yang signifikan, termasuk kemampuan untuk menunda peluncuran produk jika masalah keamanan terdeteksi.
Komposisi dewan menimbulkan kekhawatiran
Namun, komposisi dewan tersebut telah menuai kritik. Berbeda dengan dewan pengawas Meta yang terdiri dari anggota eksternal, dewan keamanan baru OpenAI seluruhnya terdiri dari staf OpenAI. Hal ini menimbulkan pertanyaan apakah dewan tersebut benar-benar dapat dianggap independen.
Dewan tersebut terdiri dari:
- Adam D'Angelo
- Paul Nakasone
- Nicole Seligman
- Zico Kolter (ketua)
Yang perlu dicatat, CEO OpenAI Sam Altman tidak akan menjadi bagian dari dewan ini.
Masalah keamanan sebelumnya di OpenAI
Langkah ini muncul di tengah kekhawatiran yang berkelanjutan tentang pendekatan OpenAI terhadap keamanan AI:
- Mantan karyawan telah mengklaim bahwa peneliti keamanan tidak diberi sumber daya komputasi yang diperlukan
- Klaim bahwa pertimbangan keamanan dikesampingkan demi pengembangan produk baru
- Dewan pengawas sebelumnya juga hanya terdiri dari individu yang berafiliasi dengan OpenAI
Potensi konflik kepentingan
Para kritikus berpendapat bahwa memiliki anggota dewan yang terkait langsung dengan OpenAI menciptakan potensi konflik kepentingan. Ada kekhawatiran bahwa keinginan untuk meluncurkan produk yang sukses bisa mengaburkan pertimbangan keamanan yang sebenarnya.
Tantangan berkelanjutan dalam keamanan AI
Seiring teknologi AI berkembang pesat, membangun pengawasan keamanan yang benar-benar efektif dan independen tetap menjadi tantangan besar bagi industri. Upaya terbaru OpenAI menyoroti kompleksitas yang terlibat dalam menyeimbangkan inovasi dengan pengembangan yang bertanggung jawab.
Komunitas teknologi akan mengamati dengan seksama untuk melihat apakah dewan baru ini dapat secara efektif mengatasi masalah keamanan sambil memungkinkan OpenAI mempertahankan posisinya di garis depan pengembangan AI.