Prediksi paling anyar Musk: AI bisa ngluwihi intelijen manungsa ing taun 2030 lan bisa uga "mungkasi" manungsa ing mangsa ngarep (1/2)

Sumber: Tencent Technology News 2024-04-04 08:55

Titik utama:

① Musk prédhiksi manawa AI bisa ngluwihi tingkat intelijen manungsa ing taun 2030, lan bisa uga ngrusak manungsa.

② Musk ngomong babagan faktor sing mbatesi pangembangan AI. Taun kepungkur, pasokan chip AI ketat, lan ing taun iki, trafo step-down bakal dadi bottleneck.

③ Nalika manungsa bisa ndharat ing rembulan, Musk prédhiksi manawa kanthi bantuan Starship, wektu paling cepet mung telung taun.

Tencent Technology News, April 4th - Miturut laporan media asing, Elon Musk, CEO Tesla lan SpaceX, bubar ngobrol online karo Peter Diamandis, pangadeg Singularity University lan XPRIZE Foundation, ing Abundance Summit. KTT iki dianakake dening Universitas Singularity Silicon Valley, sing darmabakti kanggo nyedhiyakake konsultasi teknologi canggih kanggo para pimpinan bisnis. Yayasan XPRIZE ningkatake inovasi teknologi liwat kompetisi ilmiah, sawetara sing didanai dening Musk., 4 April - Miturut laporan media asing, Elon Musk, CEO Tesla lan SpaceX, bubar ngobrol online karo Peter Diamandis, pangadeg Singularity Universitas lan Yayasan XPRIZE, ing Summit Abundance. KTT iki dianakake dening Universitas Singularity Silicon Valley, sing darmabakti kanggo nyedhiyakake konsultasi teknologi canggih kanggo para pimpinan bisnis. Yayasan XPRIZE promosi inovasi teknologi liwat kompetisi ilmiah, sawetara sing didanai dening Musk.

Nalika ngrembug babagan kacepetan pangembangan intelijen buatan, Musk prédhiksi manawa adhedhasar tingkat kemajuan teknologi saiki, intelijen buatan bisa ngluwihi intelijen manungsa ing taun 2030, lan teknologi iki bisa uga duweni potensi kanggo mungkasi manungsa. Nanging, dheweke ora nganggep pesimis babagan masa depan, nanging nandheske manawa liwat tuntunan positif, intelijen buatan duweni potensi kanggo nggawa masa depan sing luwih apik kanggo manungsa.

Musk nyebutake manawa muncule superintelligence diarani "singularitas" amarga ana akibat sing ora bisa ditebak, kalebu risiko bisa mungkasi manungsa. Dheweke sarujuk karo sudut pandang "Bapak baptis Kecerdasan Buatan" Geoffrey Hinton lan percaya manawa kemungkinan risiko kasebut kira-kira ana ing antarane 10% lan 20%.

Sanajan ngakoni risiko potensial intelijen buatan ngluwihi intelijen manungsa, Musk isih negesake manawa kemungkinan asil positif ngluwihi akibat negatif. Dheweke khusus nyebataken buku Diamandis 2014 "Abundance: The Future Is Better Than You Think", sing nggambarake masa depan optimis sing didorong dening intelijen buatan lan robot, ing ngendi biaya barang lan layanan wis mudhun banget. Kajaba iku, dheweke nyebutake seri "Budaya" dening penulis fiksi ilmiah Skotlandia Iain M. Banks minangka skenario paling apik kanggo masa depan intelijen buatan semi-utopia.

Musk mbandhingake pangembangan intelijen buatan lan Artificial General Intelligence (AGI) kanggo nggedhekake bocah, ngarep-arep bakal duwe pengaruh sing luwih positif kanggo manungsa. Dheweke nandheske pentinge ngembangake kecerdasan buatan sing bener-bener ngerti etika lan moralitas, dibandhingake karo film klasik Stanley Kubrick taun 1968 "2001: A Space Odyssey".

Musk nedahake manawa aspek sing paling penting kanggo keamanan intelijen buatan yaiku njamin panelusur bebener lan rasa penasaran sing maksimal. Dheweke percaya yen kunci kanggo nggayuh keamanan intelijen buatan sing paling utama yaiku ngindhari meksa ngapusi, sanajan ngadhepi bebener sing ora nyenengake. Dheweke nggunakake plot saka "2001: A Space Odyssey" minangka conto, ing ngendi intelijen buatan dipeksa ngapusi, nyebabake pati kru, kanggo nandheske yen intelijen buatan ora kudu dipeksa nindakake apa wae sing nglanggar aksioma.

Musk uga nyebutake faktor-faktor sing bisa mbatesi pangembangan intelijen buatan, kayata pasokan chip intelijen buatan sing sithik sing muncul taun kepungkur lan permintaan transformator step-down ing peralatan rumah tangga lan komersial. Dheweke ujar manawa tantangan kasebut pancen masalah saiki sing kudu ditanggulangi.

Sajrone dhiskusi, loro pihak uga ngomong babagan konsep nggabungake neokorteks otak manungsa karo awan. Sanajan Musk percaya yen tujuane ngunggah kesadaran lan memori manungsa menyang awan isih adoh, dheweke muji wiwitan antarmuka otak-komputer, Neuralink, lan pasien manungsa pisanan sing nampa transplantasi. Pasien tetraplegic iki kasil nuduhake langsung liwat uji coba sing disetujoni FDA, ngontrol layar, main game video, ngundhuh piranti lunak, lan entuk fungsi sing padha karo operasi mouse liwat implan otak. Musk nyatakake yen Neuralink maju kanthi lancar lan mboko sithik pindhah menyang tujuan antarmuka otak lengkap.

Ing ngisor iki minangka teks lengkap dialog antarane Musk lan Diamandis:

1. Daya lan Bebaya Superintelligence

Diamandis: Sugeng atas prestasi sing luar biasa ing macem-macem lapangan. Sampeyan wis aktif promosi konsep superintelligence digital menyang donya - apa iku pangarep-arep paling manungsa, utawa wedi kita paling jero? Sampeyan bisa nglampahi sawetara menit ngomong babagan masalah iki?

Musk: Kaya sing sampeyan ngerteni, superintelligence bisa diarani "singularitas". Popularisasi istilah iki ora bisa dipisahake saka upaya institusi kaya Singularity Institute. Munculé superintelligence lan impact sakteruse iku pancene angel kanggo prédhiksi. Secara pribadi, aku yakin manawa ana kemungkinan bisa mungkasi manungsa. Kaya sing wis dakkandhakake sadurunge, aku bisa uga setuju karo panemune Geoffrey Hinton yen ana kemungkinan 10% utawa 20% yen superintelligence bisa mungkasi manungsa. Nanging, aku cenderung percaya manawa kemungkinan skenario positif luwih dhuwur tinimbang sing negatif, sanajan angel kanggo nggawe ramalan sing akurat. Nanging nalika sampeyan nandheske konsep "kelimpahan" ing buku sampeyan, aku yakin manawa masa depan sing paling mungkin bakal kita lakoni yaiku masa depan sing kebak kelimpahan.

Diamandis: Pandanganmu apik banget. Aku elinga sampeyan nate ujar manawa pangembangan intelijen buatan umum lan robot humanoid bakal nggawa kita akeh.

Musk: Ya, muga-muga masa depan kita bisa kaya sing digambarake ing buku seri "Budaya" Ian Banks. Aku iki minangka konsepsi paling apik saka masyarakat intelijen buatan semi-utopia. Munculé superintelligence ora bisa dihindari lan bisa uga teka. Mula, sing kudu ditindakake yaiku nuntun menyang arah sing positif lan maksimalake keuntungane.

Aku percaya yen cara kita ngembangake kecerdasan buatan iku penting banget. Ing sawetara ombone, kita kaya budidaya wangun urip kanthi kecerdasan umum, sing meh kaya nggedhekake bocah, nanging bocah iki nduweni kawicaksanan lan bakat sing luar biasa. Cara kita ngunggahake anak iku penting, lan uga, kanggo safety intelijen buatan, penting banget kanggo duwe intelijen buatan sing nggoleki bebener lan kebak rasa penasaran. Aku wis mikir banget babagan keamanan intelijen buatan, lan aku wis mutusake manawa cara paling apik kanggo nggayuh keamanan intelijen buatan yaiku ngolah kanthi ati-ati.

Ing babagan model dhasar lan fine-tuning, kita kudu njamin kejujuran intelijen buatan. Kita ora bisa meksa ngapusi, sanajan kasunyatane ora nyenengake. Nyatane, salah sawijining plot inti ing "2001 Space Odyssey" yaiku nalika intelijen buatan dipeksa ngapusi, kahanan dadi kacau. Intelijen buatan dilarang ngandhani kru monumen misterius sing bakal dideleng, nanging kudu mimpin menyang kana. Akibaté, intelijen buatan nyimpulake manawa paling apik kanggo mateni kru lan nggawa awak menyang monumen. Pawulangan kasebut penting banget: kita ora kudu meksa intelijen buatan kanggo ngapusi utawa nindakake perkara sing ora cocog kanthi aksioma, kayata nindakake rong perkara sing kontradiktif ing wektu sing padha.

Mula, kita nggayuh tujuan kasebut liwat proyek kayata xAI lan Grok. Apa sing kita tindakake yaiku intelijen buatan sing jujur ​​​​sabisa, sanajan pidato kasebut ora cocog karo standar politik sing bener.

2. Masa Depan Kecerdasan Buatan

Diamandis: Wingi, aku melu acara karo Ray Kurzweil (pendiri Universitas Singularity lan nabi teknologi), Geoffrey Hinton, Eric Schmidt (mantan presiden Google), lan tamu liyane. Aku weruh tweet sampeyan babagan Kurzweil, lan dheweke 预见kanggo teknologi mbesuk cukup maju. Kurzweil prédhiksi manawa kita bakal duwe intelijen buatan umum ing mangsa ngarep, lan intelijen buatan sing setara karo intelijen manungsa bakal muncul ing taun 2029. Kacepetan kasebut nggegirisi. Aku wonder apa sampeyan mikir babagan iki?

Musk: Aku ngormati prediksi Kurzweil. Nyatane, aku mikir ramalane bisa uga rada konservatif. Mirsani daya lan bakat komputasi saiki sing nandur modhal ing bidang intelijen buatan, uga pertumbuhan daya komputasi kanthi cepet, kita bisa nemokake manawa kecepatan pangembangan intelijen buatan saya tambah kanthi tingkat 10 kali nggumunake. Daya komputasi intelijen buatan darmabakti katon mundhak kaping 10 saben 6 sasi, sing meh tegese mundhak paling ora kaping 100 saben taun. Tren wutah iki bakal terus mundhak ing sawetara taun sabanjure.

Perlu dicathet yen akeh pusat data, malah umume pusat data sing saiki nindakake komputasi konvensional, bakal mboko sithik dadi fasilitas sing ndhukung komputasi intelijen buatan. Mula, kanggo produsen perangkat keras intelijen buatan, perusahaan kaya NVIDIA temtunipun miwiti periode pembangunan emas. Kita kudu menehi kredit lengkap kanggo Huang Renxun lan tim. Dheweke ndeleng tren iki lan sukses ngembangake hardware intelijen buatan sing saiki ana ing pasar.

Nalika daya komputasi mundak akeh ing tingkat ngeramaken, pangembangan Intelligence Ponggawa kaya disuntikake karo steroid kuat, leaping kanggo tingkat anyar. Nalika jumlah komputer online terus saya tambah, kita wis nyekseni pembangunan sing cepet banget. Bener, aku durung nate weruh teknologi apa wae sing tuwuh kanthi cepet kaya intelijen buatan. Sanajan aku wis ndeleng akeh teknologi sing berkembang kanthi cepet, paningkatan intelijen buatan isih nggumunake. Nanging, kaya sing dakkandhakake, aku mikir asil pungkasan bakal positif.

Senajan kita ngadhepi akeh tantangan, kayata carane njaga relevansi manungsa ing lapangan iki lan carane golek gol lan makna anyar, Aku iku oversimplification overemphasize sing komputer bisa dadi apik ing kabeh.

Kaya sing wis kasebut sadurunge, aku mikir ramalan buku sampeyan babagan masyarakat ing mangsa ngarep akurat banget. Iki minangka jaman kelimpahan materi, ing ngendi barang lan layanan bakal akeh banget sing meh bisa digayuh kanggo kabeh wong. Amarga aplikasi intelijen buatan lan teknologi robotika sing nyebar, biaya barang lan layanan bakal meh suda dadi nol. Ekonomi iku ateges produk saka ukuran populasi lan rata-rata produktivitas saben wong. Yen kita duwe teknologi robotika canggih, kayata Tesla's Optimus, potensial ekonomi bakal diluncurake.

Mobil Tesla, minangka robot ing roda papat, wis nuduhake kemampuan sing kuat. Versi paling anyar kanthi kemampuan nyopir kanthi otonom bakal entuk kontrol end-to-end adhedhasar intelijen buatan, nggawe mobil dadi robot sing cerdas ing roda. Ditambah karo pangembangan robot humanoid, kemungkinan output ekonomi meh ora ana watesan.

Saka perspektif optimistis, kita maju menyang masa depan kanthi kelimpahan materi sing ekstrem, sing aku yakin minangka asil sing paling mungkin. Aku mikir mung kekurangan sing bisa ditindakake ing mangsa ngarep yaiku kekurangan sing digawe sacara artifisial, kayata karya seni unik utawa barang tartamtu. Nanging saliyane iku, barang lan layanan apa wae bakal dadi akeh banget.

Diamandis: Sampeyan minangka wong sing bisa mbentuk masa depan liwat tumindak praktis lan duwe wawasan sing cetha babagan tren mangsa ngarep. Ngadhepi perkembangan teknologi saiki kanthi cepet, aku kepengin weruh sepira adoh ing mangsa ngarep sampeyan bisa ngerteni, yaiku, pirang-pirang taun tren pembangunan wiwit saiki?

Musk: Ing jaman owah-owahan kanthi cepet, kemampuan kanggo prédhiksi masa depan dadi saya penting. Sanajan masa depan kebak kahanan sing durung mesthi, aku yakin manawa sawetara tren katon jelas. Kita bakal miwiti jaman intelijen buatan, lan kemampuane bakal tekan utawa malah ngluwihi tingkat manungsa ing tugas kognitif apa wae. Iki mung masalah wektu. Wong-wong bisa uga duwe panemu sing beda-beda babagan apa bakal pungkasan taun ngarep, rong taun, utawa telung taun. Nanging, siji bab tartamtu, iku ora bakal ngluwihi limang taun. Prediksiku adhedhasar kemungkinan 50%, sing ora mutlak. Nanging miturut pertimbanganku, intelijen buatan bisa uga ngluwihi kabisan manungsa ing aspek tartamtu sadurunge pungkasan taun ngarep.

Dene manawa ngluwihi kawicaksanan kolektif manungsa, bisa uga luwih suwe. Yen jangkah owah-owahan terus, aku ngira yen sekitar 2029 utawa 2030, intelijen digital bisa uga ngluwihi jumlah intelijen manungsa. Nalika ndeleng masalah kasebut, aku cenderung nggunakake metode rasio dhasar, kaya prinsip pisanan ing fisika. Kanthi nggabungake metode iki karo analisis probabilitas, kita bisa luwih akurat nangkep tren pangembangan mangsa ngarep.

Yen kita mbandhingake kemampuan komputasi digital karo komputasi biologis, lan nambahake kabeh kemampuan kognitif majeng manungsa minangka jenis daya komputasi, banjur mbandhingake karo daya komputasi digital, sampeyan bakal nemokake yen tingkat pertumbuhan rasio iki nggumunake. Mula, aku percaya yen 2029 utawa 2030 minangka simpul wektu sing cukup. Ing wektu iku, akumulasi daya komputasi digital kamungkinan ngluwihi akumulasi daya komputasi biologi saka fungsi otak maju. Wiwit iku, longkangan antarane loro bakal terus widen, lan ora bakal ana kamungkinan narrowing.

Nanging, nalika kita ngadeg ing titik wiwitan iki lan ngarepake masa depan, kepiye kahanan bakal maju? Jujur, aku ora bisa ndeleng kabeh rincian. Nanging yen kita nimbang faktor wutah lan faktor watesan padha ngadhepi, kita bakal nemokake sawetara pitunjuk menarik.

Taun kepungkur, kendala pasokan chip minangka faktor watesan utama kanggo pangembangan AI. Taun iki, trafo step-down bakal dadi bottleneck utama. Bayangake nyuda voltase 300 kilovolt dadi kurang saka 1 volt sing dibutuhake komputer. Iki minangka tantangan gedhe. Mula, kita butuh "Transformers for Transformers" sing luwih efisien, yaiku trafo step-down utawa trafo jaringan saraf AI. Iki pancen dadi masalah utama ing taun iki.

Nganti sawetara taun sabanjure, pasokan listrik bisa dadi faktor pembatas utama. Kecerdasan buatan duwe panjaluk listrik sing akeh, lan transisi menyang energi lestari lan popularitas kendharaan listrik uga nambah permintaan listrik. Mula, kita kudu mikir kanthi serius babagan carane nyukupi kebutuhan listrik sing saya tambah akeh kanggo njamin pangembangan lan aplikasi teknologi kasebut.