Terdapat perubahan besar yang berlaku dalam kecerdasan buatan — tetapi ia bukan yang mungkin difikirkan oleh sesetengah orang. Walaupun sistem penjanaan bahasa dan chatbot yang canggih telah mendominasi tajuk berita, syarikat AI swasta secara senyap-senyap telah mengukuhkan kuasa mereka. Perkembangan terkini bermakna bahawa segelintir individu dan syarikat kini mengawal banyak sumber dan pengetahuan dalam sektor ini — dan akhirnya akan membentuk kesannya terhadap masa depan kolektif kita.
Fenomena itu, yang pakar AI rujuk sebagai “penangkapan industri”, telah dikira dalam kertas kerja yang diterbitkan oleh penyelidik dari Massachusetts Institute of Technology dalam jurnal Science awal bulan ini, menyeru penggubal dasar untuk memberi perhatian lebih dekat. Datanya semakin penting. Generative AI — teknologi yang mendasari seperti ChatGPT — sedang dibenamkan ke dalam perisian yang digunakan oleh berbilion orang, seperti Microsoft Office, Google Docs dan Gmail. Dan perniagaan daripada firma guaman kepada media dan institusi pendidikan sedang dirombak oleh pengenalannya.
Penyelidikan MIT mendapati bahawa hampir 70 peratus PhD AI pergi bekerja untuk syarikat pada 2020, berbanding 21 peratus pada 2004. Begitu juga, terdapat peningkatan lapan kali ganda dalam fakulti yang diambil bekerja ke dalam syarikat AI sejak 2006, jauh lebih cepat daripada keseluruhan. peningkatan dalam fakulti penyelidikan sains komputer. “Ramai penyelidik yang kami bercakap telah meninggalkan trajektori penyelidikan tertentu kerana mereka merasakan mereka tidak dapat bersaing dengan industri – mereka tidak mempunyai pengiraan atau bakat kejuruteraan,” kata Nur Ahmed, pengarang kertas Sains.
Khususnya, beliau berkata bahawa ahli akademik tidak dapat membina model bahasa yang besar seperti GPT-4, sejenis perisian AI yang menjana teks yang munasabah dan terperinci dengan meramalkan perkataan seterusnya dalam ayat dengan ketepatan yang tinggi. Teknik ini memerlukan sejumlah besar data dan kuasa pengkomputeran yang terutamanya hanya syarikat teknologi besar seperti Google, Microsoft dan Amazon mempunyai akses kepadanya. Ahmed mendapati bahagian syarikat dalam model AI terbesar telah meningkat daripada 11 peratus pada 2010 kepada 96 peratus pada 2021.
Kekurangan akses bermakna penyelidik tidak boleh meniru model yang dibina dalam makmal korporat, dan oleh itu tidak boleh menyiasat atau mengauditnya untuk potensi bahaya dan berat sebelah dengan mudah.
Data kertas itu juga menunjukkan perbezaan ketara antara pelaburan awam dan swasta ke dalam teknologi AI. Pada 2021, agensi kerajaan AS bukan pertahanan memperuntukkan $1.5 bilion kepada AI. Suruhanjaya Eropah merancang untuk membelanjakan €1bn. Sementara itu, sektor swasta melabur lebih daripada $340 bilion pada AI pada 2021.
“Terdapat kepekatan kekayaan dan pelaburan dalam set teknik yang sangat sempit,” kata Alex Hanna, pengarah penyelidikan di Institut Penyelidikan AI Teragih dan bekas ahli pasukan AI Etika Google.
Dia merujuk kepada data pelaburan daripada PitchBook yang menunjukkan bahawa majoriti wang untuk AI generatif dalam tempoh enam tahun yang lalu telah disalurkan kepada syarikat baru seperti Anthropic, Inflection, Character.ai dan Adept AI, dan usaha yang lebih besar seperti OpenAI yang membina mereka sendiri model besar. Pada tahun 2019, OpenAI beralih daripada bukan untung kepada perusahaan yang mengaut keuntungan dengan pelaburan $1 bilion daripada Microsoft, memetik keperluan “untuk meningkatkan pelaburan kami dengan pantas dalam pengiraan dan bakat.”
Akibat daripada peralihan ini adalah pelbagai. Ini bermakna alternatif awam kepada teknologi AI korporat, seperti model dan set data, semakin berkurangan. Dan aplikasi baharu berkemungkinan didorong secara komersil dan bukannya untuk kepentingan awam yang lebih luas, kata beberapa penyelidik. Hanna, yang kerjanya dibiayai oleh badan bukan keuntungan, bersetuju. “Jika anda ingin menjalankan tugas AI khusus seperti memastikan kepelbagaian biologi, atau sains iklim atau pertanian, tidak ada banyak selera untuk itu,” katanya.
Meredith Whittaker, presiden aplikasi yang disulitkan Signal, telah membandingkan situasi dengan penguasaan tentera AS ke atas penyelidikan saintifik semasa perang dingin dalam kertas seminal pada 2021. “Di sinilah, dalam sejarah yang lebih gelap ini, kita menghadapi kos penangkapan yang tinggi. — sama ada tentera atau industri,” tulisnya. “Dan implikasinya yang berbahaya terhadap kebebasan akademik . . . mampu memegang kuasa untuk bertanggungjawab.”
Penyelidik dan pakar dasar bersetuju dengan diagnosis, tetapi bukan pada penyelesaian – sesetengah seperti Ahmed percaya kerajaan harus menyediakan pusat data akademik sahaja untuk membolehkan penyelidik menjalankan eksperimen, tetapi yang lain seperti Whittaker percaya ia akan menumpukan lagi kuasa di kalangan mereka yang memiliki infrastruktur seperti perkhidmatan awan. Tetapi mereka semua bersetuju dengan satu perkara yang pembuat dasar tidak boleh lakukan: menutup mata.
madhumita.murgia@ft.com
