Di dalam White Hot Center of AI Doomerism

Di dalam White Hot Center of AI Doomerism

Topautopay.com – Artikel ini akan membahas tentang keadaan sekarang di dalam dunia AI Doomerism, di mana skeptisisme terhadap perkembangan kecerdasan buatan meningkat. Bagaimana AI Doomerism memandang dampak AI di berbagai bidang dan apakah kekhawatiran mereka beralasan atau tidak.

Menjelaskan apa itu altruisme yang efektif, dari mana asalnya, atau apa yang diyakini penganutnya akan mengisi sisa artikel ini. Tetapi ide dasarnya adalah bahwa EA—sebutan untuk altruis yang efektif—berpikir bahwa Anda dapat menggunakan logika yang dingin dan analisis data untuk mengetahui cara melakukan yang terbaik di dunia. Ini adalah “bola uang” untuk etika — atau, kurang murah hati, cara bagi orang yang sangat rasional untuk meyakinkan diri mereka sendiri bahwa nilai mereka secara objektif benar.

Filantropis yang efektif dulunya sangat peduli dengan isu-isu jangka pendek seperti kemiskinan global dan kesejahteraan hewan. Namun dalam beberapa tahun terakhir, banyak yang telah mengalihkan fokus mereka ke masalah jangka panjang seperti pencegahan pandemi dan perubahan iklim, gagasan bahwa mencegah bencana yang dapat mengakhiri hidup manusia sama saja dengan mengatasi kemalangan saat ini.

Bacaan Lainnya

Pengikut gerakan tersebut termasuk orang pertama yang khawatir tentang bahaya yang ditimbulkan oleh kecerdasan buatan, ketika robot siluman masih dianggap klise fiksi ilmiah. Mereka memukul drum begitu keras sehingga sejumlah EA muda memutuskan untuk menjadi pakar keamanan kecerdasan buatan, dan mendapatkan pekerjaan dengan teknologi berisiko rendah. Akibatnya, semua laboratorium AI besar dan organisasi riset keamanan memiliki beberapa indikasi altruisme yang efektif, dan banyak yang percaya di antara karyawan mereka.

Tidak ada lab AI besar yang terasa cukup entropis dengan etos EA. Banyak rekrutan awal perusahaan adalah altruis yang berpengaruh, dan sebagian besar dana awal berasal dari eksekutif teknologi kaya yang berafiliasi dengan EA, termasuk salah satu pendiri Facebook Dustin Moskovitz, dan salah satu pendiri Skype John Thalin. Tahun lalu, Anthropic menerima cek dari EA paling terkenal – Sam Bankman Fred, pendiri pertukaran crypto FTX yang gagal, yang menginvestasikan lebih dari $500 juta di Anthropic sebelum kerajaannya runtuh. (Tuan Bankman Fred sedang menunggu persidangan atas tuduhan penipuan. Anthropic menolak mengomentari sahamnya di perusahaan, yang dilaporkan ditutup dalam proses kebangkrutan FTX.)

Reputasi altruisme yang efektif menderita setelah jatuhnya Tuan Bankman Fred, dan Antropik menjauhkan diri dari gerakan tersebut, seperti halnya banyak karyawannya. (Baik Bapak dan Ibu Amodi menolak label gerakan tersebut, meskipun mereka mengatakan bahwa mereka bersimpati dengan beberapa gagasannya.)

Tapi ada ide, jika Anda tahu apa yang harus dicari.

Beberapa karyawan Antropik menggunakan jargon yang dipengaruhi oleh EA — berbicara tentang konsep seperti “x-Risk” dan meme seperti AI Shoggoth — atau mengenakan barang curian konferensi EA ke kantor. Dan ada begitu banyak hubungan sosial dan profesional antara organisasi EA Antropik dan populer sehingga sulit untuk melacak semuanya. (Hanya satu contoh: Ms. Amody menikah dengan Holden Karnofsky, co-CEO Open Philanthropy, organisasi pemberi hibah EA, yang chief program officer-nya, Luke Moylehauser, duduk di dewan Anthropic. Open Philanthropy, pada gilirannya, menerima banyak dana dari Tuan Moskowitz, yang secara pribadi berinvestasi di Anthropic.)

Selama bertahun-tahun, tidak ada yang mempertanyakan apakah komitmen Entropy terhadap keamanan AI itu asli, sebagian karena para pemimpinnya telah lama membunyikan alarm tentang teknologi tersebut.

Di dalam White Hot Center of AI Doomerism adalah pandangan yang tak terhindarkan dari para skeptis terhadap perkembangan kecerdasan buatan. Dalam era yang semakin maju, kekhawatiran terhadap potensi ancaman AI memang wajar, namun kita juga harus mengingat bahwa pertumbuhan teknologi dapat membawa manfaat besar jika digunakan dengan bijak.

Source

Pos terkait