ZONAUTARA.com – Dunia kecerdasan buatan (AI) kini menghadapi ancaman serius berupa serangan “keracunan data” atau data poisoning. Ini adalah metode serangan siber di mana pelaku menyusupkan data berbahaya, palsu, atau menyesatkan ke dalam kumpulan data pelatihan AI sejak tahap awal. Hasilnya, model AI bisa bias bahkan berperilaku tak terduga di dunia nyata.
Tim ilmuwan dari Universitas Oxford, EleutherAI, dan UK AI Safety Institute menemukan cara filtrasi baru untuk mengusir pengetahuan membahayakan dari dataset pelatihan AI. Di saat lain, ilmuwan Florida International University mengembangkan pertahanan berbasis blockchain untuk mendeteksi dan menahan serangan secara real time.
Studi-studi revolusioner ini dipublikasikan pada tahun 2025 oleh berbagai institusi ternama dunia serta media teknologi global dan keamanan siber.
Keracunan data, menurut para ahli, membuat model AI menghasilkan kesimpulan menyesatkan, menyerang integritas hasil, bahkan membuka peluang kejahatan siber lanjutan. Dengan berkembangnya AI di berbagai bidang—dari kesehatan hingga keuangan—serangan ini bisa berakibat fatal jika tidak dicegah sejak dini.
Bagaimana upaya membasmi ancaman ini?
Tim Oxford dan kolaboratornya menciptakan filter canggih yang menyaring data berbahaya dari awal pelatihan. Mereka membuang topik biologi dan risiko biohazard dengan multi-tahap, memanfaatkan daftar blokir kata kunci dan kecerdasan buatan yang memindai isi dataset. Sekitar 8-9% data berisiko dihapus tanpa mengurangi kecanggihan AI itu sendiri.
Hasilnya, model AI mampu menahan 25.000 dokumen “berbahaya” dalam proses pelatihan lanjutan tanpa kehilangan performa kognitif.
Pendekatan lain menggunakan teknologi blockchain: pelatihan AI didistribusikan ke banyak perangkat dan tiap perangkat memverifikasi keaslian data dengan catatan blockchain. Konsensus kolektif memastikan data racun dapat dikenali serta tidak menyebar.
Kebanyakan sistem keamanan tradisional menambah “pagar” setelah AI selesai dilatih. Teknik terbaru membenamkan filter sejak tahap awal, sehingga AI tidak pernah punya ‘pengetahuan’ berbahaya yang bisa disalahgunakan.
Penelitian terbaru juga menyarankan metode pelacakan asal usul data (data attribution) sehingga contoh data penyebab bias atau pelanggaran hukum bisa dicegah sejak sebelum dimasukkan ke pelatihan AI.
