Analisis Kewajiban Hukum Penyedia Foundation Models Dengan Systemic Risk Dalam Pengaturan GPAI Ditinjau Dari EU AI Act

Abstract

Penelitian ini mengkaji kewajiban hukum penyedia foundation models dengan systemic risk dalam kerangka pengaturan General Purpose Artificial Intelligence (GPAI) berdasarkan European Union Artificial Intellegence Act (EU AI Act). Menggunakan metode penelitian hukum normatif dengan pendekatan statute approach, conceptual approach, dan analytical approach, penelitian ini menganalisis dua permasalahan utama: pertama, apakah pengaturan kewajiban hukum penyedia foundation models dengan systemic risk dalam EU AI Act sudah proporsional; dan kedua, bagaimana penerapan risk-based regulation theory dalam EU AI Act untuk mengidentifikasi kategori risiko sistem AI yang relevan dan adaptif dengan kondisi Indonesia. Hasil penelitian menunjukkan bahwa secara normatif kerangka pengaturan EU AI Act sudah proporsional dalam tujuannya, namun mengandung tiga kelemahan signifikan: ambang batas 10²⁵ FLOPs rentan dimanipulasi secara teknis, mekanisme audit independen berisiko menjadi formalistik, dan rezim sanksi tidak memiliki insentif kepatuhan preventif. Bagi Indonesia, meskipun penggunaan AI saat ini didominasi kategori risiko minimal dan risiko terbatas, sistem AI berkategori risiko tinggi sudah beroperasi aktif di sektor keuangan, kesehatan, penegakan hukum, dan ketenagakerjaan tanpa pengawasan memadai, menciptakan kesenjangan perlindungan yang serius terhadap hak-hak fundamental. Penelitian ini merekomendasikan agar Indonesia segera menyusun regulasi AI yang mengikat dan berbasis risiko secara kontekstual, bukan sekadar transplantasi EU AI Act.