Dalam perkembangan signifikan yang menyoroti kerentanan platform AI yang sedang berkembang, DeepSeek, sebuah perusahaan AI China yang berkembang pesat, menghadapi berbagai tantangan keamanan yang menimbulkan kekhawatiran serius tentang keamanan platform AI dan perlindungan data pengguna. Insiden ini telah menarik perhatian dari para ahli keamanan siber dan regulator di seluruh dunia, terutama karena DeepSeek baru-baru ini melonjak popularitasnya menjadi aplikasi AI teratas di berbagai toko aplikasi.
Insiden Kebocoran Database
Peneliti keamanan dari Wiz menemukan kelalaian keamanan kritis di mana DeepSeek membiarkan database ClickHouse terekspos dan dapat diakses melalui internet. Database ini berisi lebih dari 1 juta catatan, termasuk informasi sensitif seperti log sistem, pengajuan prompt pengguna, dan token otentikasi API. Eksposur ini sangat mengkhawatirkan karena mudah ditemukan, dengan para peneliti mencatat bahwa database tersebut terlihat di pintu depan dengan upaya pemindaian minimal.
Masalah Keamanan Utama yang Ditemukan:
- Database ClickHouse yang terekspos dengan lebih dari 1 juta catatan
- Sistem autentikasi API yang rentan
- Laporan percobaan jailbreaking yang berhasil
- Kerentanan terhadap serangan DDoS
- Risiko kebocoran data pengguna
Dampak Serangan DDoS
Bersamaan dengan kebocoran database, DeepSeek mengalami serangan distributed denial-of-service (DDoS) skala besar yang menargetkan API dan platform chat webnya. Serangan tersebut memaksa perusahaan untuk menonaktifkan pendaftaran pengguna baru, meskipun pengguna yang ada tetap dapat mengakses layanan. Insiden ini semakin menekankan kerentanan keamanan dan tantangan operasional platform.
Kerentanan Keamanan dan Risiko
Perusahaan keamanan siber KELA telah mengidentifikasi kerentanan tambahan dalam platform DeepSeek, mendemonstrasikan upaya jailbreaking yang berhasil yang memungkinkan pembuatan konten berbahaya, termasuk instruksi pengembangan ransomware dan panduan pembuatan materi beracun. Temuan ini menunjukkan celah signifikan dalam arsitektur keamanan platform dan sistem penyaringan konten.
Pengawasan Regulasi dan Respons Internasional
Insiden keamanan ini telah memicu respons dari berbagai badan internasional. Regulator perlindungan data Italia telah meluncurkan penyelidikan terhadap praktik penanganan data DeepSeek, sementara Angkatan Laut AS telah mengeluarkan peringatan kepada personelnya untuk tidak menggunakan platform tersebut. Reaksi ini mencerminkan kekhawatiran yang berkembang tentang keamanan platform AI dan privasi data, terutama untuk platform dengan operasi internasional.
Tindakan Regulasi:
- Italia: Investigasi perlindungan data telah dimulai
- Angkatan Laut AS: Peringatan penggunaan dikeluarkan untuk personel
- Peningkatan pengawasan dari regulator internasional
Implikasi Keamanan dan Dampak Industri
Insiden ini menjadi peringatan bagi industri AI, menyoroti kebutuhan kritis akan langkah-langkah keamanan yang kuat dalam platform AI. Kerentanan yang terungkap dalam infrastruktur DeepSeek menunjukkan bahwa meskipun teknologi AI berkembang, praktik keamanan dasar tetap sangat penting. Insiden tersebut juga berdampak pada kepercayaan pasar, mempengaruhi harga saham perusahaan AI berbasis AS dan menimbulkan pertanyaan tentang implikasi yang lebih luas bagi keamanan platform AI.
Rekomendasi untuk Pengguna
Mengingat masalah keamanan ini, pengguna disarankan untuk berhati-hati saat menggunakan platform AI. Ini termasuk membatasi berbagi informasi pribadi, menerapkan langkah-langkah otentikasi yang kuat, dan secara rutin memantau aktivitas akun untuk perilaku mencurigakan. Organisasi yang mempertimbangkan adopsi platform AI harus mengevaluasi protokol keamanan dan praktik penanganan data dengan cermat sebelum implementasi.