AI berkembang cukup pesat dan bahaya yang ditimbulkannya cukup jelas sehingga kepemimpinan OpenAI percaya bahwa dunia membutuhkan badan pengawas internasional yang serupa dengan yang mengatur tenaga nuklir — dan cepat. Tapi tidak terlalu cepat.
Dalam posting ke blog perusahaanPendiri OpenAI Sam Altman, Presiden Greg Brockman, dan Kepala Ilmuwan Ilya Sutskever menjelaskan bahwa laju inovasi dalam kecerdasan buatan sangat cepat sehingga kami tidak dapat mengharapkan otoritas yang ada untuk mengendalikan teknologi secara memadai.
Meskipun ada kualitas tertentu untuk menepuk punggung mereka sendiri di sini, jelas bagi pengamat yang tidak memihak bahwa teknologi tersebut, yang paling terlihat di agen percakapan ChatGPT OpenAI yang sangat populer, merupakan ancaman unik serta aset yang tak ternilai.
Posting tersebut, biasanya agak ringan pada detail dan komitmen, namun mengakui bahwa AI tidak akan mengatur dirinya sendiri:
Kami memerlukan beberapa tingkat koordinasi di antara upaya pengembangan terkemuka untuk memastikan bahwa pengembangan superintelijen terjadi dengan cara yang memungkinkan kami menjaga keamanan dan membantu kelancaran integrasi sistem ini dengan masyarakat.
Kita mungkin pada akhirnya membutuhkan sesuatu seperti (Badan Energi Atom Internasional) untuk upaya superintelijen; upaya apa pun di atas ambang kemampuan tertentu (atau sumber daya seperti komputasi) harus tunduk pada otoritas internasional yang dapat memeriksa sistem, mewajibkan audit, menguji kepatuhan terhadap standar keselamatan, membatasi tingkat penyebaran dan tingkat keamanan, dll.
Itu IAEA adalah badan resmi PBB untuk kolaborasi internasional dalam isu-isu tenaga nuklir, meskipun tentu saja seperti organisasi serupa lainnya, organisasi ini menginginkan pukulan. Badan pengatur AI yang dibangun berdasarkan model ini mungkin tidak dapat masuk dan mematikan aktor yang buruk, tetapi dapat menetapkan dan melacak standar dan perjanjian internasional, yang setidaknya merupakan titik awal.
Posting OpenAI mencatat bahwa melacak penggunaan daya komputasi dan energi yang didedikasikan untuk penelitian AI adalah salah satu dari sedikit tindakan objektif yang dapat dan mungkin harus dilaporkan dan dilacak. Meskipun mungkin sulit untuk mengatakan bahwa AI harus atau tidak boleh digunakan untuk ini atau itu, mungkin bermanfaat untuk mengatakan bahwa sumber daya yang didedikasikan untuknya harus, seperti industri lainnya, dipantau dan diaudit. (Perusahaan yang lebih kecil dapat dikecualikan agar tidak mencekik tunas hijau inovasi, saran perusahaan.)
Peneliti dan kritikus AI terkemuka Timnit Gebru hari ini mengatakan hal serupa dalam sebuah wawancara dengan Guardian: “Kecuali ada tekanan eksternal untuk melakukan sesuatu yang berbeda, perusahaan tidak hanya akan mengatur sendiri. Kami membutuhkan regulasi dan kami membutuhkan sesuatu yang lebih baik dari sekedar motif keuntungan.”
OpenAI telah secara nyata merangkul yang terakhir, dengan kekhawatiran banyak orang yang berharap itu akan sesuai dengan namanya, tetapi setidaknya sebagai pemimpin pasar itu juga menyerukan tindakan nyata di sisi tata kelola – di luar sidang terbaru, di mana Senator berbaris untuk memberikan pidato pemilihan ulang yang diakhiri dengan tanda tanya.
Meskipun proposal tersebut berarti “mungkin kita harus, suka, melakukan sesuatu”, itu setidaknya merupakan pembuka percakapan di industri dan menunjukkan dukungan dari merek dan penyedia AI tunggal terbesar di dunia untuk melakukan sesuatu itu. Pengawasan publik sangat dibutuhkan, tetapi “kami belum tahu bagaimana merancang mekanisme seperti itu.”
Dan meskipun para pemimpin perusahaan mengatakan bahwa mereka mendukung penghentian, belum ada rencana untuk melakukannya, baik karena mereka tidak ingin melepaskan potensi besar “untuk meningkatkan masyarakat kita” (belum lagi garis bawah) dan karena ada risiko bahwa pelaku jahat menginjak gas.
*******
Source: techcrunch.com
Fullblogger – Blog Internet Marketing And Online Business
