OpenAI mengatakan sedang meluncurkan a program untuk memberikan sepuluh hibah $100.000 untuk mendanai percobaan dalam menyiapkan proses demokrasi untuk memutuskan aturan apa yang harus diikuti oleh sistem AI — “dalam batas yang ditentukan oleh hukum.”
Peluncuran program hibah datang setelah OpenAI menyerukan badan pengawas internasional untuk AI yang mirip dengan tenaga nuklir yang mengatur. Dalam proposalnya untuk badan semacam itu, salah satu pendiri OpenAI Sam Altman, Greg Brockman, dan Ilya Sutskever berpendapat bahwa laju inovasi dalam AI sangat cepat sehingga kami tidak dapat mengharapkan otoritas yang ada untuk mengendalikan teknologi secara memadai — sentimen pengumuman hari ini menangkap, juga.
Secara konkret, OpenAI mengatakan sedang mencari dana untuk individu, tim, dan organisasi untuk mengembangkan bukti konsep untuk “proses demokrasi” yang dapat menjawab pertanyaan tentang pagar pembatas untuk AI. Perusahaan ingin belajar dari eksperimen ini, katanya, dan menggunakannya sebagai dasar untuk proses yang lebih global — dan lebih ambisius — ke depan.
“Meskipun eksperimen awal ini tidak (setidaknya untuk saat ini) dimaksudkan untuk mengikat keputusan, kami berharap mereka mengeksplorasi pertanyaan yang relevan dengan keputusan dan membangun alat demokrasi baru yang dapat lebih langsung menginformasikan keputusan di masa depan,” tulis perusahaan tersebut dalam sebuah blog. posting diterbitkan hari ini. “Hibah ini merupakan langkah untuk membangun proses demokrasi untuk mengawasi … superintelijen.”
Dengan hibah, yang diberikan oleh organisasi nirlaba OpenAI, OpenAI berharap dapat membangun proses yang mencerminkan cita-cita demokrasi Platonis: sekelompok orang yang “mewakili secara luas” untuk bertukar pendapat, terlibat dalam diskusi yang “disengaja”, dan pada akhirnya memutuskan hasil melalui proses yang transparan. keputusan membuat proses. Idealnya, kata OpenAI, proses tersebut akan membantu menjawab pertanyaan seperti “Dalam kondisi apa sistem AI harus mengutuk atau mengkritik figur publik, memberikan pendapat berbeda di seluruh kelompok mengenai figur tersebut?” dan “Bagaimana pandangan yang disengketakan harus direpresentasikan dalam keluaran AI?”
“Tujuan utama hibah ini adalah untuk mendorong inovasi dalam proses — kami memerlukan metode demokratis yang lebih baik untuk mengatur perilaku AI,” tulis OpenAI. “Kami percaya bahwa keputusan tentang bagaimana AI berperilaku harus dibentuk oleh beragam perspektif yang mencerminkan kepentingan publik.”
Dalam postingan pengumuman, OpenAI menyiratkan bahwa program hibah sepenuhnya dipisahkan dari kepentingan komersialnya. Tapi itu sedikit pil yang sulit untuk ditelan, mengingat kritik OpenAI Altman baru-baru ini terhadap regulasi AI yang diusulkan di UE. Waktunya juga tampak mencolok, mengikuti Altman penampilan di depan Komite Kongres Senat AS minggu lalu, di mana dia menganjurkan rasa regulasi AI yang sangat spesifik yang akan memiliki efek minimal dari teknologi OpenAI seperti yang ada saat ini.
Namun, bahkan jika program tersebut akhirnya hanya melayani diri sendiri, ini adalah arah yang menarik untuk mengambil kebijakan AI (walaupun merupakan duplikasi dari upaya UE dalam beberapa cara yang jelas.) Saya, misalnya, penasaran untuk melihat ide seperti apa untuk “demokratis proses” muncul — dan pelamar mana yang akhirnya dipilih oleh OpenAI.
Orang-orang dapat mendaftar ke program hibah OpenAI mulai hari ini — batas waktu adalah 24 Juni pukul 9 malam. Setelah periode aplikasi ditutup, OpenAI akan memilih sepuluh penerima yang berhasil. Penerima harus memamerkan konsep yang melibatkan setidaknya 500 peserta, menerbitkan laporan publik tentang temuan mereka paling lambat 20 Oktober, dan membuka sumber kode di balik pekerjaan mereka.
*******
Source: techcrunch.com
Fullblogger – Blog Internet Marketing And Online Business
