"Tidak ada sistem yang aman, hanya sistem yang belum diserang. Dan hari ini, penyerangnya sering kali adalah AI."
Kalimat pembuka Marchel Shevchenko, Founder Data Sorcerers sekaligus pemateri, mencuri perhatian 493 peserta (423 online + 70 offline) Workshop Cybersecurity #13. Berdasarkan pengakuannya sebagai mantan peretas sejak SMP, banyak "AI canggih" yang ternyata masih dijalankan manusia di balik layar.
Sebuah Pengakuan: "Saya Dulu Beroperasi di Ranah yang Tidak Legal"
Marcel Shevchenko kini adalah research student di MIT, bekerja untuk X AI (Twitter) dan ByteDance, serta pernah menjadi machine learning engineer di XCorp dan Kalbe Farma. Tapi yang menarik adalah pengakuannya tentang masa lalunya sebagai peretas yang beroperasi di ranah black hat sejak SMP. Ia menjelaskan bahwa pengalaman tersebut justru memberikannya pemahaman mendalam tentang cara berpikir dari sudut pandang penyerang - pengetahuan yang kini ia gunakan untuk edukasi dan membangun pertahanan siber yang lebih kuat.
Marcel menekankan bahwa semua materi yang akan disampaikan bertujuan untuk meningkatkan pemahaman dan kesadaran terhadap risiko, bukan untuk tindakan ilegal. Tanggung jawab penggunaan pengetahuan sepenuhnya ada pada masing-masing individu.
"Ketakutan Itu Sengaja Disebarkan Hacker"
Marcel membuka konteks dengan pernyataan bahwa Indonesia saat ini seolah darurat keamanan siber, dengan media terus membahasnya hingga masyarakat hidup dalam ketakutan setiap hari. Ia menegaskan bahwa menyebarkan ketakutan justru adalah salah satu tujuan peretas. Ketika menanyakan apakah audiens khawatir data mereka hilang, hampir seluruh peserta mengangguk kompak. Marcel menekankan bahwa kesadaran harus dimulai dari individu - kedaulatan data kembali ke tangan masyarakat, bukan hanya tanggung jawab pemerintah.
Workshop ini membahas 13 topik, di antaranya:
- LLM Red Teaming - teknik menyerang model bahasa AI
- AI-Driven Malware - virus yang bisa beradaptasi sendiri
- Data Poisoning - meracuni data training AI
- Social Engineering 2.0 - penipuan berbasis AI yang lebih canggih
- Model Safety Data Synthesis - keahlian khusus Marcel di MIT
Marcel mengakui bahwa materi yang dibahas hari ini sebagian besar masih berada di "belakang layar" dan belum banyak yang mendalaminya. Fokus workshop lebih banyak ke red team (serangan) sesuai dengan latar belakang keahliannya di bidang penetration testing.
Salah satu momen yang menarik perhatian adalah penjelasan Marcel bahwa ia sebenarnya merencanakan demonstrasi langsung menggunakan teknologi gelombang radio untuk menunjukkan kerentanan perangkat peserta di ruangan. Namun peralatan yang dibutuhkan belum sempat disiapkan. Setelah berdiskusi dengan panitia, Marcel memutuskan untuk menyesuaikan pendekatan demonstrasi agar lebih sesuai dengan konteks edukasi. Sebagai gantinya, Marcel mendemonstrasikan teknik-teknik keamanan menggunakan website Data Sorcerers miliknya sendiri sebagai studi kasus.
Wawasan Menarik: "Banyak Sistem AI Masih Melibatkan Peran Manusia"
Salah satu wawasan paling menarik dari Marcel adalah fakta tentang sistem moderasi konten digital. Ia mengungkapkan bahwa fitur pembatasan live streaming di platform seperti TikTok ternyata masih melibatkan moderator manusia - satu orang biasanya mengawasi beberapa puluh akun sekaligus dalam satu waktu.
Marcel juga mengangkat kasus yang sempat viral tentang sistem AI Amazon, di mana ternyata di balik sistem yang diklaim AI, masih ada tim manusia yang bekerja di belakang layar. Kesimpulannya memberikan perspektif yang lebih realistis: AI sebenarnya adalah optimalisasi dari pemrosesan data. Mesin tidak benar-benar "berpikir" - ia memproses pola dan menghitung probabilitas dari data yang tersedia.
Saran Konstruktif: Pentingnya Memahami Fundamental, Bukan Hanya Tools
Marcel memberikan perspektif penting tentang pembelajaran AI di institusi pendidikan. Menurutnya, banyak pembelajaran yang terlalu fokus pada penggunaan framework dan library, tetapi kurang memberikan pemahaman tentang alur dan proses dasarnya. Padahal memahami fundamental sangat penting untuk benar-benar menguasai teknologi.
Ia juga memberikan klarifikasi tentang cara kerja AI: sistem tidak benar-benar "berpikir" dalam artian yang kita bayangkan, melainkan memproses data dan menghitung probabilitas berdasarkan pola yang telah dipelajari. Soal regulasi, Marcel membandingkan pendekatan Indonesia dengan praktik internasional. Regulasi di Indonesia masih perlu penguatan dan klarifikasi lebih lanjut, berbeda dengan GDPR di Uni Eropa yang sangat jelas, detail, dan diperbarui secara berkala setiap bulan.
Marcel menegaskan bahwa semua materi berbasis paper ilmiah terbaru dari IEEE - beberapa bahkan baru dipublikasikan 16 jam sebelum workshop dimulai. Workshop berlangsung intens hingga pukul 13.45 WIB, disertai dengan sesi tanya jawab terkait dengan materi yang disampaikan.
Label
blsdm komdigi yogyakarta, workshop cybersecurity, ai security, keamanan digital, data safety
