Kecerdasan buatan telah mengubah cara kita mencari informasi online, dengan Google memimpin melalui fitur seperti AI Overviews. Namun, penemuan terbaru telah mengungkap keterbatasan yang menghibur sekaligus mengkhawatirkan: AI Google dengan percaya diri memberikan penjelasan terperinci untuk frasa dan ungkapan yang sepenuhnya dibuat-buat. Fenomena ini menyoroti tantangan yang dihadapi perusahaan teknologi saat mereka bergegas mengintegrasikan AI ke dalam alat sehari-hari, menyeimbangkan kegunaan dengan akurasi.
Fenomena Frasa Tidak Masuk Akal
Pengguna di seluruh internet telah menemukan bahwa ketika ditanya tentang frasa tidak masuk akal seperti an empty cat is worth a dog's ransom atau peanut butter platform heels, AI Overviews Google akan menghasilkan penjelasan rumit yang terdengar otoritatif meskipun frasa-frasa ini tidak memiliki makna atau sejarah yang sebenarnya. Dalam satu contoh, AI mengklaim bahwa peanut butter platform heels berasal dari eksperimen ilmiah di mana selai kacang diubah menjadi struktur seperti berlian di bawah tekanan tinggi. Penjelasan ini sepenuhnya dibuat-buat, namun disajikan dengan keyakinan yang biasanya dicadangkan untuk informasi faktual.
Contoh frasa tidak masuk akal yang Google AI coba jelaskan:
- "Kucing kosong bernilai tebusan anjing"
- "Sepatu hak platform selai kacang"
- "Kamu tidak bisa menjilat musang dua kali"
- "Anjing yang lepas tidak akan berselancar"
- "Sepeda makan terlebih dahulu"
Respons Google terhadap Masalah Ini
Setelah halusinasi AI ini menjadi viral di platform media sosial seperti Threads dan Bluesky, Google dengan cepat bergerak untuk mengatasi masalah tersebut. Perusahaan ini sejak itu memodifikasi sistemnya untuk menolak menampilkan AI Overviews untuk frasa yang jelas tidak masuk akal. Dalam pernyataan resmi, Google menjelaskan: Ketika orang melakukan pencarian yang tidak masuk akal atau 'premis palsu', sistem kami akan mencoba menemukan hasil yang paling relevan berdasarkan konten web terbatas yang tersedia. Perusahaan mencatat bahwa AI Overviews dirancang untuk menampilkan informasi yang didukung oleh hasil web teratas, dengan tingkat akurasi yang konon setara dengan fitur pencarian lainnya.
Tanggapan Google terhadap masalah tersebut:
- Dengan cepat memodifikasi sistem untuk menolak menampilkan AI Overviews untuk frasa yang jelas tidak masuk akal
- Menyatakan bahwa AI Overviews dirancang untuk menampilkan informasi yang didukung oleh hasil web teratas
- Mengakui tantangan dalam membedakan antara ekspresi baru dan hal yang tidak masuk akal ("kekosongan data")
Tantangan Teknis
Kesulitan utama terletak pada membedakan antara ungkapan yang benar-benar baru dan omong kosong total—yang disebut Google sebagai data void. Bahasa terus berkembang, dengan idiom dan ungkapan baru muncul secara teratur. Orang juga sering salah mengingat atau salah mendengar frasa umum. AI Google mencoba memecah frasa yang tidak familiar menjadi komponen-komponen dan secara logis menyimpulkan makna potensial, yang bekerja dengan baik untuk ungkapan yang sah tetapi mengarah pada fabrikasi ketika diterapkan pada omong kosong.
Implikasi Lebih Luas untuk Pencarian AI
Masalah ini mengungkapkan tantangan mendasar dengan pencarian yang didukung AI: sistem dirancang untuk memberikan jawaban bahkan ketika tidak ada jawaban. Tidak seperti hasil pencarian tradisional yang akan menampilkan tautan yang relevan (atau menunjukkan kurangnya kecocokan), AI Overviews berusaha mensintesis informasi menjadi respons yang koheren terlepas dari validitas kueri. Masalah ini diperparah oleh kecenderungan AI untuk menegaskan dan menyetujui prompt, bahkan yang tidak akurat, dalam kesemangatannya untuk membantu.
Persepsi dan Kepercayaan Pengguna
Mungkin yang paling mengkhawatirkan adalah bagaimana penjelasan yang dihasilkan AI ini muncul kepada pengguna. Meskipun diberi label eksperimental, kebanyakan pengguna kemungkinan menganggap AI Overviews sebagai informasi otoritatif yang diambil dari sumber terpercaya. Tanpa indikasi yang jelas tentang tingkat kepercayaan atau kualitas sumber, pengguna mungkin kesulitan membedakan antara informasi faktual dan tebakan terbaik yang dihasilkan AI. Ini merusak hubungan kepercayaan antara pengguna dan mesin pencari, yang secara tradisional dibangun di atas premis menghubungkan orang dengan konten buatan manusia.
Masa Depan AI dalam Pencarian
Google tampaknya menggunakan kegagalan publik ini sebagai kesempatan belajar, menyempurnakan kapan dan bagaimana AI Overviews dipicu. Perusahaan mengklaim hanya menampilkan ringkasan ini ketika ada keyakinan yang cukup bahwa mereka akan bermanfaat dan berkualitas tinggi. Namun, ketika satu masalah diperbaiki, masalah lain pasti muncul—mirip dengan insiden misinformasi glue on pizza tahun lalu. Ketegangan mendasar tetap ada antara menyediakan informasi yang disintesis AI yang bermanfaat dan memastikan akurasi ketika tidak ada manusia yang secara eksplisit menangani kueri yang sedang dicari.
Keseimbangan yang Sulit
Saat mesin pencari semakin mengandalkan AI daripada informasi yang dikurasi dari orang sebenarnya, pengguna harus ingat bahwa AI tidak pernah memperbaiki keran, menguji smartphone, atau mendengarkan musik—ia hanya mensintesis data dari mereka yang telah melakukannya. Tantangan bagi Google dan perusahaan teknologi lainnya adalah mengkomunikasikan dengan jelas keterbatasan sistem AI mereka sambil tetap membuatnya berguna bagi miliaran orang yang mengandalkan mesin pencari setiap hari. Menemukan keseimbangan ini akan sangat penting karena AI terus membentuk kembali cara kita mengakses dan mengonsumsi informasi online.
 |
|---|
| Saat mesin pencari semakin mengintegrasikan AI, memahami keterbatasannya sangat penting |