“Bapak kecerdasan buatan” meninggalkan Google dan memperingatkan terhadap kecerdasan buatan

Pelopor kecerdasan buatan Jeffrey Hinton telah mengundurkan diri dari Google dan bergabung dengan kelompok pakar yang terus berkembang yang peduli akan bahaya kecerdasan buatan.

Ilmuwan komputer Inggris-Kanada berusia 75 tahun yang dikenal sebagai ‘Ayah rohani Kecerdasan buatan, dia takut akan potensi bahaya dari pekerjaan hidupnya. Sekarang setelah dia pergi dari Google, dia bisa membicarakannya, katanya kepada Tadalah New York Times.

Hinton berada di tempat lahirnya teknologi yang sekarang digunakan oleh sistem AI seperti ChatGPT: sistem komputer yang terus-menerus harus memproses data dalam jumlah besar dan mendeteksi pola di dalamnya. Proses itu – yang disebut Pembelajaran mendalam – Tidak bisa lagi diabaikan dalam bidang pekerjaan.

Terinspirasi oleh otak, Hinton dengan optimis memimpin rekan-rekannya ke teknik tersebut di tahun 1980-an. Dengan sukses: merevolusi AI saat ini. Misalnya, salah satu mantan siswa Hinton adalah salah satu pendiri OpenAI, pemilik ChatGPT. Dia dan dua rekannya juga dianugerahi Penghargaan Alan Turing, Hadiah Nobel untuk Ilmuwan Komputer, untuk karyanya pada tahun 2018.

Sekarang, setengah abad setelah menerima gelar PhD dari University of Edinburgh, optimisme Hinton telah berubah menjadi kegelisahan yang besar. Dia khawatir persaingan di antara perusahaan teknologi akan mengarah pada pengembangan sistem AI sedemikian rupa sehingga mereka bergerak terlalu cepat.

Salah satu perhatian langsungnya adalah bahwa Internet mungkin dibanjiri dengan omong kosong yang dihasilkan komputer: menghasilkan teks, gambar, dan video yang tidak dapat dibedakan dari hal yang sebenarnya bagi pengguna biasa. Hinton percaya bahwa AI dapat secara radikal mengubah atau bahkan mengambil alih pekerjaan, seperti penerjemah atau paralegal.

Dalam jangka panjang, sistem dapat menulis programnya sendiri dan menjalankannya secara efektif. Dalam konteks ini, dia merujuk pada senjata otonom, seperti robot pembunuh.

Para ahli baru-baru ini membunyikan alarm: “Berhenti mengembangkan kecerdasan buatan”:

“Gagasan bahwa makhluk-makhluk ini bisa menjadi lebih cerdas daripada manusia diyakini oleh sangat sedikit orang,” jelas Hinton kepada surat kabar tersebut. “Kebanyakan orang berpikir itu terlalu jauh.” Dia sendiri mengira itu akan memakan waktu setidaknya 30-50 tahun lagi. “Harus jelas bahwa saya tidak lagi berpikir demikian.”

Frank van Harmelen, seorang profesor kecerdasan buatan di VU, mengatakan ketika ditanya bahwa dia tidak terkejut dengan surat Hinton yang meresahkan. “Yang mengejutkan saya adalah dia selalu optimis tentang teknologi dan sekarang mengekspresikan dirinya dengan cara ini, sebagai salah satu bapak teknologi. Ini adalah giliran yang menarik dalam diskusi yang telah sangat hidup dan aktif di antara rekan kerja selama beberapa waktu, ” kata Van Harmelen, yang menerima gelar Ph.D. Edinburgh bertahun-tahun lebih lambat dari Hinton sendiri.

lihat profmerusakMirip dengan “Prediksi tentang Senjata Otonom sebagai ‘poin pembicaraan meja minuman yang bagus’, tetapi dia memiliki beberapa kekhawatiran yang sama dengan Hinton”. Anda tidak perlu memperingatkan tentang skenario fiksi ilmiah. Cara teknologi digunakan sekarang, benar-benar ada banyak potensi konsekuensi negatif dalam hal sosial.”

Salah satunya adalah informasi yang salah, kata Van Harmelen. Terkadang sistem ini menjadi hoodie berkerudung Speaker bertopeng dipanggil. Anda dapat membuat mereka mengatakan apa saja dan melakukannya dengan sangat meyakinkan. Mereka dapat menghasilkan teks, gambar, dan suara yang menarik. Dan kombinasi dari itu.”

Masalah lainnya adalah bahwa AI itu sendiri “berhalusinasi” bersama ketika sistem menebak jawabannya. Misalnya, dia baru-baru ini bertanya kepada sistem AI tentang delapan buku yang dia tulis sendiri.

Saya hanya menulis enam di antaranya, tetapi jawabannya adalah enam buku yang saya tulis dan kemudian dua lagi yang dapat saya tulis, dengan judul yang sangat otoritatif dalam jangkauan pengalaman saya. Jika saya menggunakan teknik ini untuk warga negara biasa, dan orang-orang dari yang saya tidak tahu bagaimana memisahkan makna dari omong kosong, itu dengan cepat mengarah ke pecahan peluru”.

Hinton, yang dengan tegas tidak ingin kepergiannya dari Google ditafsirkan sebagai kritik terhadap raksasa teknologi itu, menyerukan undang-undang kecerdasan buatan. Seruan ini mendapat tanggapan yang luar biasa di antara para ilmuwan, kata van Harmelen, yang merujuk pada apa yang disebut undang-undang kecerdasan buatan yang sedang dikerjakan oleh Komisi Eropa. Sistem AI harus diklasifikasikan dan tunduk pada aturan untuk setiap kategori.

Van Harmelen menyimpulkan, “Kita benar-benar perlu bekerja dalam sains untuk memajukan sains seputar sistem ini dan juga bangunannya. Bahkan orang-orang yang membangun benda-benda ini sekarang tidak mengerti apa yang dapat mereka lakukan.” “Sepertinya kita naik pesawat yang bergerak lebih cepat dan lebih cepat, sementara kita harus memikirkan cara kerja penerbangan. Saya belum pernah mengatakan ini sebelumnya, tapi sekarang terlalu cepat.”