Komunitas teknologi sedang aktif membahas eksperimen AI terbaru dari DeepMind, yaitu Mesin Habermas, yang bertujuan menjembatani perpecahan politik melalui diskusi yang dimediasi AI. Sementara beberapa pihak memuji potensi inisiatif ini, yang lain menunjukkan keterbatasan signifikan dalam pendekatannya untuk mengatasi polarisasi politik di dunia nyata.
Potensi dan Keterbatasan
Mesin Habermas DeepMind, yang dinamai dari filsuf Jerman Jürgen Habermas, telah menunjukkan beberapa keberhasilan dalam memediasi diskusi, mencapai tingkat penerimaan 56% untuk pernyataan kelompok dibandingkan dengan 44% mediator manusia. Sistem ini menggunakan dua model bahasa besar:
- Model generatif berbasis Chinchilla
- Model penghargaan yang memprediksi persetujuan peserta
Namun, anggota komunitas telah mengangkat kekhawatiran tentang metodologi penelitian, khususnya mengenai pemilihan topik diskusi. Tim peneliti sengaja menghindari subjek kontroversial seperti hak transgender dan perubahan iklim, yang menurut banyak orang justru merupakan isu-isu yang perlu ditangani dalam masyarakat yang terpolarisasi saat ini.
Pertanyaan Penerapan di Dunia Nyata
Komunitas teknologi telah menyoroti beberapa poin kritis tentang implementasi praktis sistem ini:
-
Bias Pemilihan Topik : Pengecualian yang disengaja terhadap isu-isu yang sangat kontroversial menimbulkan pertanyaan tentang kegunaan sistem ini dalam mengatasi perpecahan politik yang nyata.
-
Kekhawatiran Netralitas AI : Perdebatan yang sedang berlangsung tentang bias AI, terutama mengingat narasi AI woke vs anti-woke dari Elon Musk, menunjukkan potensi tantangan dalam membangun kredibilitas sistem di seluruh spektrum politik.
-
Skala dan Implementasi : Masih ada pertanyaan tentang bagaimana sistem seperti ini dapat digunakan dalam skala besar sambil mempertahankan efektivitas dan mencegah manipulasi.
Potensi Aplikasi dan Risiko
Sementara penelitian menunjukkan potensi dalam memfasilitasi kesepakatan pada isu-isu moderat, anggota komunitas telah mengidentifikasi aplikasi potensial yang positif dan mengkhawatirkan:
- Membangun Konsensus : Sistem ini bisa bermanfaat untuk pengambilan keputusan pemerintah lokal dan komunitas dalam hal-hal praktis.
- Agregasi Opini : Seperti yang dicatat oleh para peneliti, teknologi ini dapat digunakan untuk membuat pesan yang dioptimalkan secara politis, menimbulkan kekhawatiran tentang potensi manipulasi.
Pandangan ke Depan
Diskusi ini menyoroti paradoks penting: meskipun Mesin Habermas menunjukkan potensi teknis, implementasinya saat ini menghindari isu-isu yang justru mendorong polarisasi politik. Seperti yang dicatat oleh salah satu anggota komunitas, ujian yang sebenarnya adalah melihat bagaimana sistem ini bekerja ketika memediasi diskusi tentang topik-topik yang benar-benar memecah belah yang mendefinisikan lanskap politik saat ini.
Makalah penelitian yang merinci temuan ini dapat ditemukan di Science (2024).