Anggota parlemen Eropa bergerak lebih dekat untuk meloloskan undang-undang perintis tentang kecerdasan buatan minggu lalu, memajukan undang-undang yang bertujuan untuk menetapkan tolok ukur untuk teknologi yang berkembang pesat — namun diatur secara minimal.
Pada hari Rabu, 14 Juni, Parlemen Eropa menyetujui rancangan undang-undang yang dikenal sebagai AI Act. Disebut sebagai undang-undang AI komprehensif pertama di dunia, undang-undang tersebut merupakan buku aturan untuk adopsi dan penggunaan teknologi AI di 27 negara anggota Uni Eropa.
Undang-undang AI mengusulkan larangan praktik AI berisiko tinggi di Eropa, termasuk penggunaan teknologi pengenalan wajah real-time di tempat umum dan sistem AI lainnya yang dianggap “mengganggu dan diskriminatif” oleh Parlemen Eropa, seperti sistem dan mannequin penilaian sosial yang menggunakan “teknik manipulatif subliminal atau sengaja.”
Rancangan undang-undang juga mencakup persyaratan yang lebih ketat untuk mannequin AI generatif seperti ChatGPT, yang akan dipaksa untuk mengungkapkan ketika konten dibuat oleh mesin dan merancang modelnya dengan langkah-langkah bawaan untuk mencegah pembuatan konten ilegal.
Lompat ke:
Sebuah preseden dalam hukum AI
Undang-undang perintis Eropa bermaksud untuk menetapkan preseden untuk regulasi kecerdasan buatan di seluruh dunia, di mana ledakan penggunaan AI dan alat pembelajaran mesin telah membuat pembuat kebijakan berebut untuk mengikutinya.
Deirdre Clune, Anggota Parlemen Eropa, menyebut UU AI sebagai “undang-undang terobosan” dengan potensi untuk menjadi “pendekatan international de facto untuk mengatur AI.”
Berbicara kepada Parlemen Eropa pada 13 Juni, Clune berkata: “Ini adalah salah satu upaya international pertama untuk mengatur AI… AI memiliki kapasitas untuk menyelesaikan masalah yang paling mendesak, termasuk perubahan iklim atau penyakit serius, dan kami ingin meletakkan dasar untuk melakukan ini. di sini di Uni Eropa.”
Clune menambahkan: “Kita tidak dapat melakukan ini sepenuhnya sendiri, tetapi kita harus menjadi pemimpin dalam memastikan bahwa teknologi ini dikembangkan dan digunakan dengan cara etis yang bertanggung jawab, sekaligus mendukung inovasi dan pertumbuhan ekonomi.”
Pendekatan berbasis risiko terhadap aturan AI
Rancangan undang-undang UE mengusulkan pendekatan berbasis risiko terhadap regulasi AI yang mengkategorikan sistem kecerdasan buatan berdasarkan potensi ancamannya terhadap pengguna, yang merupakan topik yang telah lama menjadi bahan perdebatan sengit.
Sistem AI yang dianggap memiliki tingkat risiko yang “tidak dapat diterima” akan dilarang keras berdasarkan undang-undang UE dengan pengecualian terbatas. Sistem dan fungsi AI yang dianggap tidak dapat diterima — dan karena itu dilarang — di bawah rancangan undang-undang meliputi:
- Manipulasi perilaku kognitif orang atau kelompok rentan tertentu: misalnya, mainan yang diaktifkan dengan suara yang mendorong perilaku berbahaya pada anak-anak.
- Skor sosial: mengklasifikasikan orang berdasarkan perilaku, standing sosial ekonomi atau karakteristik pribadi.
- Sistem identifikasi biometrik real-time dan jarak jauh: alat pengenalan wajah adalah contoh yang memungkinkan.
Pengecualian dalam kasus sistem identifikasi biometrik jarak jauh adalah untuk menuntut kejahatan serius dalam kasus di mana identifikasi terjadi setelah “penundaan yang signifikan,” meskipun kasus tersebut akan memerlukan persetujuan pengadilan.
Sistem AI berisiko tinggi termasuk yang digunakan dalam produk yang diatur oleh UE seperti mainan dan mobil, serta space spesifik seperti identifikasi biometrik, manajemen infrastruktur penting, ketenagakerjaan, dan penegakan hukum. Di bawah aturan UE yang baru, sistem ini harus terdaftar di foundation knowledge UE.
LIHAT: Kebijakan Etika Kecerdasan Buatan (TechRepublic Premium)
Sistem AI dengan potensi untuk memengaruhi pemilih dalam kampanye politik, serta yang ditemukan dalam sistem rekomendasi yang digunakan oleh platform media sosial, juga masuk dalam daftar berisiko tinggi UU AI.
Sementara itu, alat AI generatif seperti ChatGPT dan Google Bard, serta sistem AI lainnya yang dianggap memiliki risiko terbatas, akan diminta untuk menerapkan perlindungan yang lebih kuat di bawah peraturan UE yang baru. Pengamanan ini mencakup persyaratan transparansi yang lebih ketat dan memungkinkan pengguna membuat keputusan berdasarkan informasi tentang apakah dan bagaimana mereka berinteraksi dengan mannequin AI.
Pengguna harus diberi tahu saat mereka berinteraksi dengan AI dan juga harus diberi opsi untuk berhenti atau terus menggunakan aplikasi AI setelah berinteraksi dengannya.
“Minimal absolut yang perlu kami tawarkan di sini adalah transparansi,” kata Clune. “Harus jelas bahwa konten ini bukan buatan manusia. Dan kami juga melangkah lebih jauh dan meminta pengembang mannequin besar ini untuk lebih transparan dan membagikan informasi mereka dengan penyedia dan bagaimana sistem ini dilatih dan bagaimana mereka dikembangkan. Ini harus mengatasi dan mengubah kelestarian lingkungan dari sistem ini.”
Reaksi beragam dari komunitas teknologi
Sementara Undang-Undang Kecerdasan Buatan Eropa pada akhirnya bertujuan untuk mengatur penggunaan kecerdasan buatan dengan cara yang menyeimbangkan keamanan dan transparansi dengan potensi inovatif, anggota komunitas teknologi telah menyuarakan keprihatinan bahwa peningkatan pengawasan dan potensi hukuman karena melanggar aturan dapat membatasi inovasi.
Kevin Bocek, wakil presiden ekosistem dan komunitas di perusahaan cybersecurity Venafi, berpendapat bahwa Parlemen Eropa “tepatnya membidik inovasi AI Silicon Valley” dan memperingatkan “dampak yang berpotensi besar pada bisnis AS dan investor mereka.”
“Uni Eropa akan secara signifikan mengurangi pendekatan AI saat ini untuk rilis produk mingguan dan pembaruan mannequin harian,” kata Bocek kepada TechRepublic. “Persyaratan blok untuk transparansi, sertifikasi, dan keamanan tidak selaras dengan cara inovasi perangkat lunak dan penyedia cloud saat ini. Ini membuka jalan bagi startup Eropa dan open supply untuk memainkan peran yang lebih besar dalam AI daripada yang kita lihat saat ini.”
Aturan UE yang baru juga dapat mempersulit perusahaan yang beroperasi di Eropa tetapi berkantor pusat di tempat lain.
Greg Hanson, wakil presiden grup penjualan platform untuk EMEA dan Amerika Latin di perusahaan pengembangan perangkat lunak Informatica, berbagi dengan TechRepublic bahwa Undang-undang AI Eropa akan mewajibkan bisnis AS dan non-UE untuk membangun visibilitas penuh seputar asal knowledge yang menjadi mannequin AI mereka dibangun untuk memastikan kepatuhan.
“Untuk organisasi dengan knowledge lintas batas internasional — yang paling banyak — mereka sekarang harus memiliki visibilitas penuh tentang bagaimana dan di mana knowledge mereka diproses untuk memenuhi undang-undang geografis yang berbeda,” kata Hanson kepada TechRepublic.
“Misalnya, sebuah organisasi yang berkantor pusat di AS tetapi beroperasi di Eropa perlu sepenuhnya memahami kualitas datanya dan dapat melacaknya sepenuhnya melalui rantai pasokan knowledge mereka … Ini berarti perlunya akurasi, kejelasan, garis keturunan, dan tata kelola knowledge akan meningkat.”
LIHAT: Para ahli memuji GDPR pada pencapaian lima tahun (TechRepublic)
Undang-undang AI mencakup pengecualian aturan untuk aktivitas penelitian dan komponen AI yang disediakan di bawah lisensi sumber terbuka.
Untuk membantu memastikan bisnis dapat memanfaatkan AI secara efektif sambil melindungi hak-hak warga negara, kotak pasir peraturan akan dibuat oleh otoritas publik untuk menguji sistem AI baru sebelum penerapannya.
Sementara itu, warga negara akan memiliki hak yang lebih tinggi untuk mengajukan keluhan tentang sistem AI dan menerima penjelasan untuk keputusan berdasarkan sistem AI berisiko tinggi, dengan Kantor AI UE yang telah direformasi mengambil tanggung jawab untuk memantau bagaimana buku peraturan diterapkan.
Meskipun demikian, Kamales Lardi, konsultan transformasi digital dan penulis “The Human Aspect of Digital Enterprise Transformation,” memperingatkan bahwa regulator akan “terus memainkan permainan mengejar ketinggalan” kecuali batasan dalam rancangan undang-undang tersebut segera diatasi.
“Undang-undang tersebut mengambil pendekatan peraturan dan kepatuhan tradisional ke lanskap yang dinamis dan cepat berubah yang merupakan AI generatif,” kata Lardi kepada TechRepublic.
“Undang-undang tersebut tidak cukup membahas topik seputar hak cipta, bahkan dari perspektif perdebatan dan definisi seputar apa yang dianggap sebagai batasan hak cipta masih dalam diskusi.”
Lardi juga mencatat bahwa penerapan Undang-Undang Kecerdasan Buatan akan “menjadi mimpi buruk” mengingat banyaknya perusahaan yang saat ini menggunakan solusi berbasis Kecerdasan Buatan atau berencana untuk melakukannya dalam waktu dekat. “Peninjauan aplikasi dan penilaian kesesuaian akan menjadi tugas yang berat, dan mengandalkan penilaian sendiri tidak akan cukup dalam jangka panjang,” tambahnya.
“Perusahaan mungkin perlu melakukan perubahan besar pada praktik pengumpulan dan manajemen knowledge mereka untuk memenuhi standar privasi knowledge baru yang ditetapkan oleh undang-undang.”
Kapan undang-undang baru akan disahkan?
Uni Eropa berharap untuk menyelesaikan Undang-Undang Kecerdasan Buatan pada akhir tahun 2023, meskipun jika berhasil melakukannya, undang-undang baru tersebut diperkirakan tidak akan berlaku selama beberapa tahun – kemungkinan sekitar tahun 2026.
Terlepas dari kerumitan yang perlu dikerjakan untuk sementara, Hanson mengatakan dia menyambut baik pengenalan undang-undang AI penting di Eropa.
“Keputusan UE untuk mengatur sistem AI pengumpanan knowledge adalah langkah legislatif yang cerdas,” kata Hanson. “Tidak hanya melindungi potensi teknologi yang dapat mendorong pertumbuhan ekonomi, tetapi juga melindungi esensi bisnis,” katanya.
“AI, khususnya, menempatkan akurasi knowledge di ujung tombak. Knowledge yang salah, yang pada akhirnya memicu mannequin AI, akan berdampak negatif pada merek. Namun knowledge yang akurat, dapat dipercaya, dan tepat waktu akan memberi organisasi keunggulan kompetitif yang sangat dibutuhkan dan mendorong pertumbuhan organisasi.”
