OpenAI Membangkitkan Kebimbangan Mengenai Keupayaan Suara Realistik GPT-4o
OpenAI telah mengeluarkan Kad Sistem untuk model AI terbaru mereka, GPT-4o, yang menekankan potensi risiko berkaitan dengan ciri suara lanjutannya. Syarikat itu memberi amaran bahawa pengguna mungkin membentuk keterikatan emosi kepada AI tersebut disebabkan oleh keupayaan sintesis pertuturannya yang sangat realistik.
 |
|---|
| ' GPT-4o ' OpenAI menyerlahkan keupayaan suara canggihnya, menimbulkan kebimbangan tentang ikatan emosi |
Perkara Utama:
- GPT-4o, yang dilancarkan pada bulan Mei, adalah model multimodal sebenar pertama OpenAI yang mampu memproses dan menghasilkan pelbagai jenis media, termasuk pertuturan.
- Keupayaan suara model ini begitu maju sehingga boleh menyebabkan pengguna membina hubungan sosial dengan AI tersebut.
- OpenAI telah menjalankan ujian menyeluruh, termasuk lebih 100 penguji luar dalam 45 bahasa, untuk menilai potensi risiko.
Kebimbangan Keterikatan Emosi
Semasa ujian awal, OpenAI memerhatikan pengguna menggunakan bahasa yang mencadangkan mereka sedang membentuk hubungan dengan model tersebut. Seorang pengguna bahkan berkata, "Ini adalah hari terakhir kita bersama," menunjukkan tahap pelaburan emosi.
Syarikat itu menyatakan bahawa walaupun interaksi ini mungkin memberi manfaat kepada individu yang kesepian, ia berpotensi memberi kesan kepada hubungan manusia yang sihat dengan mengurangkan keperluan untuk interaksi antara manusia.
Langkah-langkah Keselamatan dan Batasan
Untuk mengurangkan risiko, OpenAI telah melaksanakan beberapa langkah keselamatan:
- GPT-4o terhad kepada empat suara yang telah ditetapkan untuk melindungi privasi pelakon suara.
- Model ini direka untuk menyekat output yang menggunakan suara tanpa kebenaran, mencegah peniruan individu atau tokoh awam.
- Terdapat langkah-langkah keselamatan untuk menyekat permintaan audio berhak cipta, kandungan erotik, dan bahan keganasan atau berbahaya.
Penyelidikan dan Pemantauan Berterusan
OpenAI mengakui keperluan untuk penyiasatan berterusan mengenai kesan jangka panjang interaksi manusia-AI. Syarikat itu merancang untuk menjalankan kajian lanjut dengan kumpulan pengguna yang pelbagai untuk lebih memahami dan menangani potensi risiko.
Implikasi Lebih Luas
Pembangunan model AI yang begitu maju membangkitkan persoalan tentang masa depan hubungan manusia-AI dan kesannya terhadap norma sosial. Apabila teknologi ini menjadi semakin canggih dan tersedia secara meluas, adalah penting untuk memantau kesannya terhadap tingkah laku manusia dan interaksi sosial.
Ketelusan OpenAI dalam menerbitkan penemuan ini menunjukkan komitmen terhadap pembangunan AI yang bertanggungjawab. Walau bagaimanapun, ia juga menyoroti cabaran kompleks yang timbul apabila sistem AI menjadi semakin menyerupai manusia dalam interaksi mereka.