foto by ADMIN IMAKDILUS
Pesatnya kemajuan teknologi merupakan suatu keniscayaan bagi umat manusia. Salah satu bentuk kemajuan teknologi yang masih menjadi topik hangat di kalangan masyarakat ialah munculnya teknologi kecerdasan buatan atau AI. Artificial Intelligence atau yang lebih sering dikenal dengan AI adalah bidang dalam ilmu komputer yang bertujuan untuk menciptakan mesin atau sistem yang dapat melakukan tugas-tugas yang membutuhkan kecerdasan manusia, seperti belajar, merencanakan, beradaptasi, dan memecahkan masalah. Berbagai kemudahan dan efisiensi yang ditawarkan oleh AI telah memberikan dampak positif bagi perkembangan peradaban manusia.
Dengan adanya Kecerdesan buatan atau AI (artificial intelligence) berbagai bidang dalam kehidupan seperti Industri, Pendidikan, Bisnis dan lain lain dapat dengan mudah terbantu. Kendati demikian yang mana Kecerdasan Buatan atau AI memiliki fungsi yang positif dalam membantu kegiatan manusia, Kecerdasan Buatan dapat menjadi boomerang yang dapat memberikan dampak negative. AI merupakan suatu program yang mengacu pada simulasi kecerdasan manusia oleh mesin yang dibuat sedemikian rupa untuk berpikir secara manusiawi dan meniru tindakannya, kecerdasan buatan sendiri dicirikan oleh kemampuan untuk bernalar dan mengambil tindakan yang memiliki peluang terbaik untuk mencapai tujuan tertentu. Dengan adanya AI tidak menutup kemungkinan adanya tindak pidana baru maupun berbuatan melawan hukum yang baru
Salah satu isu tindak pidana yang sedang berkembang saat ini yaitu, modus penipuan customer service atau disebut dengan Voice Phishing. Sejatinya, Voice Phishing merupakan rekayasa sosial yang memalsukan orang atau institusi guna mendapatkan kepercayaan korban untuk memberikan data atau kredensial. Pengamat Keamanan Siber, Alfons Tanujaya, menjelaskan aplikasi pengubah suara bertenaga AI sangat dapat digunakan penipu untuk melakukan modus tersebut. Di sisi lain, Pengamat Teknologi Informasi dan Komunikasi (TIK), Heru Sutadi, mengatakan bahwa penipu menggunakan suara robot salah satunya untuk menutupi identitas yang dapat dikenali dari suara.
Dalam menghadapi kasus tersebut Indonesia belum mempunyai regulasi hukum yang secara khusus mengatur mengenai penggunaan atau pemanfaatan Kecerdasan buatan atau AI, terdapat beberapa peraturan yang menjadi patokan dasar dalam penggunaaan AI yaitu:
UU No 11 Tahun 2008 Tentang Informasi dan Transaksi Elektronik jo UU No 19 Tahun 2016 Tentang Perubahan atas UU No 11 Tahun 2008 Tentang Informasi dan Transaksi Elektronik jo UU No 1 Tahun 2024 Tentang Perubahan kedua atas UU No 11 Tahun 2008 Tentang Informasi dan Transaksi Elektronik mengartikan bahwa AI sebagai Agen elektronik yaitu perangkat dari suatu Sistem Elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu Informasi Elektronik tertentu secara otomatis yang diselenggarakan oleh Orang. Modus Penipuan Customer Service (Voice Phishing) dalam UU ITE diatur sebagaimana dalam Pasal 28 ayat (1) UU ITE yang mengatur larangan menyebarkan informasi palsu yang menyebabkan kerugian pada pengguna internet. Selain itu, dalam Pasal 45A ayat (1) UU ITE yang menetapkan pidana bagi orang yang sengaja dan tanpa hak menyebarkan informasi elektronik yang menyesatkan dan mengakibatkan kerugian.
UU No 27 Tahun 2022 Tentang Perlindungan data pribadi dalam Pasal 10 dan Pasal 34 yang mengatur mengenai subjek data pribadi yang berhak untuk untuk mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis terhadap data pribadi. Modus Penipuan Customer Service (Voice Phishing) dalam UU PDP diatur sebagaimana dalam Pasal 10 menyatakan bahwa korban voice phishing berhak untuk mengajukan keberatan atas keputusan yang diambil berdasarkan pemrosesan otomatis yang merugikan mereka.
Peraturan Pemerintah Republik Indonesia Nomor 71 Tahun 2019 Tentang Penyelenggaraan Sistem Dan Transaksi Elektronik mengatur tentang AI sebagaimana diatur dalam Pasal 36 – Pasal 40 menyatakan bahwa Penyelenggara sistem elektronik yang menggunakan AI harus memastikan keamanan dan integritas sistem tersebut. Penyalahgunaan AI untuk penipuan dapat dikategorikan sebagai pelanggaran terhadap kewajiban ini.
Surat Edaran Menteri Komunikasi dan Informatika Republik Indonesia No 9 Tahun 2023 Tentang Etika Kecerdasan Artificial, Surat edaran ini hanya memberikan pengaturan terbatas pada Pengetian umum, Panduan umum nilai, etika, dan kontrol kegiatan kunsultasi, analisis dan pemrograman yang berbasis kecerdasan artificial oleh pelaku usaha.
Strategi Nasional Kecerdasan Artificial Indonesia 2020-2024 stranas ini hanya menjadi panduan bagi pemangku pebijakan dalam merumuskan kebijakan dibidang AI.
Melalui Peraturan peraturan di atas, Indonesia belum mempunyai kerangka pengaturan khusus mengenai AI, sehingga diperlukannya pengaturan khusus terkait dengan kecerdasan buatan hal ini diperlukan guna menunjang perkembangan zaman serta perkembangan AI itu sendiri banyaknya kekosongan hukum yang diakibatkan oleh belum adanya kerangka pengaturan khusus terkait dengan AI di antara lain, Tindak Pidana yang disebabkan oleh AI, Perbuatan melawan hukum yang terjadi oleh akibatan AI, kejelasan AI apakah sebagai Subjek Hukum atau Objek Hukum, Kode etik sukarela yang akan mengatur organisasi pelaku usaha dan komunitas terkait lainnya di bidang AI, pengaturan penggunaan AI dalam sektor business, dan yang paling terpenting adalah diperlukan regulasi khusus yang membahas mengenai teknologi AI
ENGLISH VERSION
The Urgency of AI Regulation in Indonesia
The rapid advancement of technology is a necessity for mankind. One form of technological advancement that is still a hot topic among the public is the emergence of artificial intelligence or AI technology. Artificial Intelligence or more commonly known as AI is a field in computer science that aims to create machines or systems that can perform tasks that require human intelligence, such as learning, planning, adapting, and solving problems. The various conveniences and efficiencies offered by AI have had a positive impact on the development of human civilization.
With the existence of artificial intelligence, various fields in life such as industry, education, business and others can be easily helped. However, while Artificial Intelligence or AI has a positive function in helping human activities, Artificial Intelligence can be a boomerang that can have a negative impact. AI is a program that refers to the simulation of human intelligence by machines that are made in such a way as to think humanly and imitate their actions, artificial intelligence itself is characterized by the ability to reason and take actions that have the best chance of achieving certain goals. The existence of AI does not rule out the possibility of new criminal offenses and new unlawful acts.
One of the issues of criminal acts that are currently developing is the mode of customer service fraud or called Voice Phishing. In fact, Voice Phishing is social engineering that fakes people or institutions in order to gain the trust of victims to provide data or credentials. Cyber Security Observer, Alfons Tanujaya, explained that AI-powered voice-changing applications can be used by fraudsters to carry out this mode. On the other hand, Information and Communication Technology (ICT) Observer, Heru Sutadi, said that fraudsters use robotic voices to mask identities that can be recognized from voices.
In dealing with these cases, Indonesia does not yet have legal regulations that specifically regulate the use or utilization of artificial intelligence or AI, there are several regulations that become the basic benchmark in the use of AI, namely:
Law No. 11 of 2008 on Electronic Information and Transactions in conjunction with Law No. 19 of 2016 on Amendments to Law No. 11 of 2008 on Electronic Information and Transactions in conjunction with Law No. 1 of 2024 on the Second Amendment to Law No. 11 of 2008 on Electronic Information and Transactions defines AI as an electronic agent, which is a device of an Electronic System that is made to perform an action on certain Electronic Information automatically organized by a Person. The mode of Customer Service Fraud (Voice Phishing) in the ITE Law is regulated as in Article 28 paragraph (1) of the ITE Law which regulates the prohibition of disseminating false information that causes harm to internet users. In addition, Article 45A paragraph (1) of the ITE Law stipulates the punishment for people who intentionally and without rights disseminate misleading electronic information and cause harm.
Law No. 27 Year 2022 on Personal Data Protection in Article 10 and Article 34 which regulates personal data subjects who have the right to object to decision-making actions based solely on automated processing of personal data. The mode of Customer Service Fraud (Voice Phishing) in the PDP Law is regulated as in Article 10 states that victims of voice phishing have the right to object to decisions taken based on automated processing that harm them.
Government Regulation of the Republic of Indonesia Number 71 of 2019 concerning the Implementation of Electronic Systems and Transactions regulates AI as stipulated in Article 36 - Article 40 states that electronic system operators who use AI must ensure the security and integrity of the system. Misuse of AI for fraud can be categorized as a violation of this obligation.
Circular Letter of the Minister of Communication and Informatics of the Republic of Indonesia No. 9 of 2023 on Ethics of Artificial Intelligence, this circular letter only provides limited regulation on the general definition, general guidelines on values, ethics, and control of consulting, analysis and programming activities based on artificial intelligence by business actors.
Indonesia's National Strategy for Artificial Intelligence 2020-2024 is only a guide for policy makers in formulating policies in the field of AI.
Through the above regulations, Indonesia does not yet have a special regulatory framework regarding AI, so special regulations related to artificial intelligence are needed to support the times and the development of AI itself. There are many legal lacunae caused by the absence of a special regulatory framework related to AI, among others, Criminal Acts caused by AI, Unlawful Acts that occur due to the involvement of AI, clarity on whether AI is a Legal Subject or Legal Object, a voluntary code of ethics that will regulate business organizations and other related communities in the field of AI, regulation of the use of AI in the business sector, and most importantly, special regulations are needed that discuss AI technology
Comments