Apple mengambil pendekatan baru untuk meningkatkan kemampuan AI-nya sambil berusaha mempertahankan reputasinya dalam melindungi privasi pengguna. Perusahaan ini telah mengungkapkan rencana untuk meningkatkan Apple Intelligence dengan menganalisis data di perangkat melalui teknik yang disebut differential privacy, yang bertujuan untuk mengumpulkan wawasan bermanfaat tanpa mengkompromikan informasi pribadi.
 |
|---|
| Apple meningkatkan kemampuan AI sambil menjaga privasi pengguna melalui analisis data di perangkat |
Tantangan Data Sintetis
Apple Intelligence telah menghadapi kritik sejak peluncurannya, dengan banyak pengguna yang menilai kinerjanya kurang dibandingkan kompetitor. Keterbatasan utamanya adalah ketergantungan Apple pada data sintetis murni untuk melatih model AI-nya. Meskipun data sintetis berusaha meniru interaksi pengguna yang sebenarnya, seringkali gagal menangkap nuansa tentang bagaimana orang benar-benar menggunakan fitur seperti Genmoji atau alat penulisan. Pendekatan ini telah menciptakan kesenjangan antara kemampuan AI Apple dan kompetitor yang memanfaatkan sejumlah besar data pengguna nyata.
Solusi Differential Privacy
Untuk mengatasi keterbatasan ini, Apple telah menerbitkan makalah teknis berjudul Understanding Aggregate Trends for Apple Intelligence Using Differential Privacy, yang menguraikan strategi baru yang menggabungkan data sintetis dengan umpan balik pengguna yang dianonimkan. Alih-alih langsung mengumpulkan konten pengguna, sistem Apple mengirimkan representasi data sintetis ke perangkat dan menganalisis bagaimana hal ini dibandingkan dengan pola penggunaan aktual. Proses ini melibatkan penambahan noise pada sinyal data yang dikirim kembali ke Apple, sehingga tidak mungkin menghubungkan informasi ke pengguna tertentu.
Pendekatan Privasi Diferensial Apple:
- Menghasilkan data sintetis untuk meniru konten pengguna
- Mengkonversi data sintetis menjadi "embedding" numerik
- Secara acak melakukan polling pada perangkat yang ikut serta untuk membandingkan data sintetis dengan pola penggunaan
- Menambahkan "noise" (gangguan) pada semua data yang dikumpulkan untuk memastikan anonimitas
- Tidak ada pengumpulan langsung email, teks, atau konten pribadi
- Tidak ada asosiasi dengan alamat IP atau ID Apple Account
Cara Kerja Sistem Baru
Untuk fitur seperti Genmoji, sistem Apple secara acak melakukan polling perangkat untuk melihat apakah mereka telah menghadapi jenis permintaan tertentu, seperti dinosaur in a cowboy hat. Perangkat tidak mengirimkan konten sebenarnya tetapi memberikan sinyal yang dianonimkan yang membantu Apple memahami pola penggunaan. Untuk fitur berbasis teks seperti alat peringkasan, Apple mengirimkan representasi model sintetis ke perangkat, yang kemudian melakukan perbandingan lokal terhadap sampel email terbaru. Ini membantu Apple menentukan data sintetis mana yang paling mendekati penggunaan dunia nyata, memungkinkan peningkatan yang lebih terarah.
Persyaratan Opt-in
Yang terpenting, pendekatan pelatihan baru ini hanya berfungsi dengan pengguna yang telah memilih untuk ikut serta dalam program Device Analytics Apple, biasanya selama penyiapan perangkat. Apple menekankan bahwa partisipasi tidak membahayakan data pribadi, karena perusahaan tidak pernah melihat email, teks, atau konten lainnya yang sebenarnya. Sebaliknya, Apple hanya menerima informasi tentang contoh sintetis mana yang paling mendekati pola penggunaan nyata, dengan semua data terputus dari identitas pengguna atau akun Apple.
Penerapan yang Akan Datang
Apple berencana untuk meluncurkan sistem pelatihan AI baru ini dalam versi beta iOS dan iPadOS 18.5 serta macOS 15.5 yang akan datang. Perusahaan bermaksud untuk akhirnya memperluas pendekatan ini untuk meningkatkan fitur Apple Intelligence lainnya, termasuk Image Playground, Image Wand, Memories Creation, Writing Tools, dan Visual Intelligence.
Rilis perangkat lunak mendatang dengan pelatihan AI baru:
- Beta iOS 18.5
- Beta iPadOS 18.5
- Beta macOS 15.5
Privasi vs Kinerja
Langkah ini merepresentasikan upaya Apple untuk menyeimbangkan antara peningkatan kemampuan AI-nya dan mempertahankan identitas mereknya yang berfokus pada privasi. Meskipun pendekatan differential privacy menawarkan perlindungan privasi yang lebih kuat dibandingkan metode pengumpulan data yang digunakan oleh banyak kompetitor, beberapa pengamat industri mempertanyakan apakah ini akan memungkinkan Apple Intelligence untuk menutup kesenjangan kinerja dengan platform AI pesaing yang memiliki lebih sedikit batasan penggunaan data.
Fitur yang akan ditingkatkan dengan pendekatan pelatihan baru:
- Genmoji
- Image Playground
- Image Wand
- Memories Creation
- Writing Tools
- Visual Intelligence
Gambaran yang Lebih Besar
Pendekatan Apple menyoroti ketegangan yang berkelanjutan dalam industri AI antara kinerja dan privasi. Seiring dengan evolusi Apple Intelligence, keberhasilan strategi differential privacy ini dapat memengaruhi bagaimana perusahaan lain mendekati pelatihan AI. Jika Apple dapat menunjukkan peningkatan signifikan sambil mempertahankan perlindungan privasi yang kuat, hal ini dapat menetapkan standar baru untuk pengembangan AI yang bertanggung jawab yang menyeimbangkan inovasi dengan kepercayaan pengguna.