Selanjutnya draf tersebut merekomendasikan pihak programmer untuk menyiapkan strategi manajemen risiko jika ‘bencana penggunaan AI terjadi’ serta menyiapkan pelaporan dan mekanisme pemulihan dari insiden tersebut. Namun demikian, draf tersebut tidak merinci lebih jauh jenis kerugian atau bencana yang ditimbulkan akibat penggunaan AI. Pedoman etika juga mencakup perlindungan privasi dan kemanusiaan, dan bahwa penggunaan AI, termasuk pengembangan produk dan pemasaran AI, perlu mendukung inovasi serta tidak menggantikan keberadaan manusia.
Sama seperti Indonesia, Uni Eropa (EU) pun telah mencapai kesepakatan mengenai apa yang disebut UU AI dalam sesi perundingan maraton yang berlangsung selama 36 jam dan berakhir Jumat malam 8 Desember 2023. Hal ini mencerminkan kepentingan politik dan komersial yang sangat besar di baliknya. Eropa kini berada di garis terdepan dalam regulasi AI, sesuatu yang telah lama diserukan oleh para ahli AI terkemuka di seluruh dunia.
Rincian lengkap mengenai kesepakatan yang telah tercapai memang belum diketahui. Parlemen Eropa serta negara-negara anggota UE juga masih harus memberikan kata akhir. Namun yang pasti kerangka kerjanya kini telah didefinisikan dengan lugas, sehingga memperjelas bagaimana Eropa ingin membatasi AI di tahun-tahun mendatang seraya mematok standar global.
Prinsip dasar undang-undang ini adalah bahwa semakin besar risiko yang terkait dengan sistem AI, semakin ketat pula aturannya.
Salah satu perdebatan sengit sempat terjadi pada pembahasan untuk mengatur model-model AI yang paling kuat, yang juga dikenal dengan General Purposes AI (GPAI), termasuk di dalamnya chatbot ChatGPT yang sudah terkenal. Dalam beberapa pekan belakangan, Jerman, Prancis dan Italia melancarkan lobi teknologi gencar yang menganjurkan penghapusan model-model ini dari undang-undang dan hanya mewajibkan 'regulasi otonom' pada model-model tersebut. Menurut mereka peraturan yang terlalu ketat akan menghambat inovasi di Eropa.
Lobi tersebut tidak sepenuhnya berhasil. Model GPAI nantinya juga akan tunduk pada undang-undang. Artinya, perusahaan yang berada di baliknya harus, antara lain, transparan mengenai data yang digunakan untuk melatih model. Mereka juga harus mematuhi undang-undang hak cipta Eropa dan menjelaskan kapan teks, gambar, atau suara dihasilkan melalui AI.
Jika peraturan baru tersebut secara resmi disahkan awal tahun 2024, maka undang-undang ini diperkirakan baru akan berlaku pada akhir tahun 2025 atau pada tahun 2026.