ai research19 minit bacaan

Khabar angin RSI Google: memahami AGI dan perdebatan kadar pembangunan AI

Penerangan AGI dan penambahbaikan kendiri rekursif, sumber asal di X, cadangan pemimpin AI serta hujah Trump tentang persaingan dengan China.

K
Ken Jo
#agi#recursive-self-improvement#rsi#google-deepmind#ai-safety#ai-policy#future-of-work

AI yang membantu anda menyelesaikan projek yang sukar adalah berguna. AI yang membantu membina AI yang lebih berkebolehan mengubah rentak alat berguna tiba. Kemungkinan kedua itu menjelaskan mengapa beberapa catatan samar tentang Google menarik perhatian sama seperti pemimpin AI saingan mula menyokong secara terbuka jadual pembangunan yang lebih terukur.

Dua istilah menjadikan cerita lebih mudah untuk diikuti. AGI, atau kecerdasan buatan am, menerangkan AI berkebolehan secara luas: sistem yang boleh mempelajari dan melaksanakan banyak tugas intelektual yang berbeza. RSI, atau pembaikan diri rekursif, menerangkan proses: AI menyumbang kepada penambahbaikan sistem AI, dan penambahbaikan tersebut membantu pusingan penambahbaikan seterusnya. Satu adalah mengenai julat kebolehan sistem; yang satu lagi ialah tentang bagaimana kemajuan kembali ke dalam dirinya.

Artikel ini mengikuti khabar angin Google kepada siaran X asalnya, memisahkan sokongan awam daripada perjanjian sebenar untuk memperlahankan pembangunan dan mengkaji makna kitaran penyelidikan yang lebih pantas untuk kehidupan biasa. Potongan pelaporan ialah 14 September 2026. Pandangan saya optimis: alatan yang lebih baik boleh menjadikan kepakaran lebih mudah diakses. Tetapi masa depan yang patut diingini termasuk masa yang cukup untuk menyemak keputusan dan kuasa yang cukup untuk mengubah haluan.

Tiga perbezaan yang perlu diingat

  • AGI, RSI dan superintelligence menerangkan perkara yang berbeza. Tiada adalah sinonim untuk AI yang mempunyai kesedaran.
  • Kerja awam Google menyokong dakwaan bahawa AI membantu membangunkan AI. Siaran X yang beredar tidak mewujudkan gelung penambahbaikan yang berautonomi sepenuhnya.
  • Beberapa pemimpin menyokong kawalan kadar pembangunan dan penilaian luar secara terbuka. Ini penting, tetapi belum membuktikan adanya perjanjian memperlahankan pembangunan yang ditandatangani dan dilaksanakan seluruh industri.

AGI ialah keupayaan mempelajari dan melaksanakan pelbagai tugas

Seorang pakar boleh menjadi luar biasa pada satu tugas. Enjin catur boleh mengalahkan juara tanpa dapat menjelaskan pajakan, merancang projek penyelidikan atau mempelajari aliran kerja pejabat baharu. AGI merujuk kepada cita-cita yang lebih luas: sistem AI yang boleh memindahkan kebolehan berguna merentasi pelbagai jenis kerja intelektual, termasuk tugas yang tidak biasa. Dalam istilah harian, persoalannya ialah sama ada ia boleh terus belajar cara menjadi berguna apabila tugasan berubah.

Tiada satu pun garisan penamat yang diterima secara universal. Pada November 2023, penyelidik DeepMind mencadangkan penilaian AGI sepanjang dimensi termasuk prestasi, keluasan dan autonomi. Rangka kerja mereka membuat perbezaan yang berharga: pandai dalam banyak tugas dan dibenarkan bertindak secara bebas adalah sifat yang berasingan. Sistem berkebolehan tinggi masih boleh digunakan dengan kebenaran sempit. Tahap AGI, pertama kali diserahkan pada 4 November 2023.

Untuk pemula, pertimbangkan pembantu hipotesis yang diminta untuk membantu organisasi bukan untung kecil. Ia perlu memahami hamparan yang tidak dikenali, mendraf permohonan pembiayaan, melihat percanggahan dalam belanjawan dan mempelajari peraturan pelaporan. Demonstrasi yang meyakinkan akan menunjukkan prestasi yang boleh dipercayai merentas perubahan tersebut, termasuk mengetahui masa untuk meminta bantuan. Satu cadangan geran yang digilap akan mewujudkan lebih kurang daripada corak yang lebih luas itu.

Inilah sebabnya mengapa skor penanda aras bukan sijil perisikan sejagat. Penanda aras memberitahu kita sesuatu tentang tugas tertentu di bawah syarat tertentu. Ia mungkin meninggalkan kebolehpercayaan yang berterusan, persekitaran yang tidak biasa, kos praktikal atau keupayaan untuk pulih daripada kesilapan. Apabila seseorang mengumumkan AGI, tindakan susulan yang berguna ialah: kebolehan yang manakah, pada tahap apa, dalam julat tugas yang manakah dan dengan berapa banyak bantuan?

ASI, atau kecerdasan super buatan, biasanya merujuk kepada keupayaan yang jauh melebihi manusia merentasi pelbagai kerja kognitif. Ia adalah konsep lain, bukan label yang diperlukan untuk setiap model yang mengagumkan. AGI mahupun ASI tidak secara automatik membayangkan kesedaran, emosi atau kehidupan dalaman seperti manusia. Artikel ini adalah mengenai keupayaan, proses pembangunan dan pilihan yang dibuat oleh orang di sekeliling mereka.

Dalam RSI, kemajuan menambah baik cara menghasilkan kemajuan seterusnya

Perisian biasa bertambah baik kerana orang ramai menemui masalah, mencadangkan perubahan, mengujinya dan mengekalkan perubahan yang berfungsi. AI sudah boleh membantu dengan langkah individu. Ia boleh mencadangkan algoritma yang lebih pantas, menjana kes ujian atau membantu mendiagnosis percubaan yang gagal. RSI menjadi menarik apabila keuntungan daripada kerja itu menjadikan sistem lebih baik dalam menjalankan pusingan penambahbaikan seterusnya.

Bayangkan bengkel penyelidikan yang menambah baik alatannya sendiri. Alat pengukur lebih tepat membantu menghasilkan alat seterusnya yang lebih baik, lalu alat itu membantu penambahbaikan berikutnya. Setiap perubahan yang berjaya memperluas keupayaan eksperimen selepasnya. Persoalannya ialah sama ada peningkatan itu benar, dikekalkan dan berguna untuk penyelidikan akan datang, bukan sekadar menambah kesibukan bengkel.

Bot sembang yang menyemak semula jawapannya lima kali tidak semestinya menambah baik model asasnya. Ciri memori boleh mengekalkan fakta tanpa mengemas kini parameter yang dipelajari rangkaian. Ejen pengekodan boleh menambah baik alatannya sendiri sementara model yang menjanakannya kekal tidak berubah. Ini adalah mekanisme yang berguna, tetapi bentuk kukuh RSI melibatkan peningkatan keupayaan berturut-turut untuk menghasilkan sistem AI yang lebih baik. Panduan kepada pembelajaran berterusan dan gelung penambahbaikan yang terdahulu meneroka mekanisme yang lebih sempit tersebut.

KonsepSoalan yang dijawabnyaApa yang tidak mencukupi?
AGIBolehkah sistem melaksanakan dan belajar merentasi pelbagai tugas intelek?Keputusan cemerlang pada satu penanda aras sempit
RSIAdakah penambahbaikan menjadikan peningkatan AI seterusnya lebih berkesan?Jawapan berulang, lebih banyak kod atau nama model yang tidak senonoh
ASIAdakah keupayaan jauh melebihi tahap manusia merentas banyak domain kognitif?Menjadi manusia luar biasa pada satu tugas khusus

Takrifan juga menerangkan mengapa AGI dan RSI tidak perlu tiba dalam susunan tetap. Sistem boleh membantu mengoptimumkan latihan AI sambil kekal lemah pada banyak tugas harian. Sebaliknya, AI berkebolehan secara meluas boleh dibangunkan melalui proses yang masih diarahkan oleh orang ramai. RSI boleh mempercepatkan laluan ke arah keluasan yang lebih besar, tetapi menulis tiga huruf tersebut pada rajah tidak membuktikan di mana laluan itu berakhir.

AGI menerangkan keluasan keupayaan; RSI menerangkan proses penyelidikan yang penambahbaikannya masuk ke kitaran seterusnya

Gambar rajah konsep asal. AGI dan RSI adalah dimensi yang berbeza, bukan urutan pencapaian yang terjamin. Ia menggambarkan takrifan di atas, bukan keupayaan terukur model tertentu.

Khabar angin tentang Google dapat dijejaki kepada dua hantaran

Sebuah artikel AI Times pada 14 September menerangkan khabar angin yang tersebar dalam komuniti AI. Dengan mengikuti hantaran terbenam dan pautan ulasan kemudian, kita dapat mengenal pasti sebilangan kecil sumber asal. Ini penting kerana seratus perkongsian semula boleh kelihatan seperti seratus pengesahan, walaupun kebanyakannya hanya mengulang dakwaan pertama yang sama.

Pada 11 September, akaun Lyra, @lyraxana, menyiarkan mesej ucapan tahniah ringkas yang menandai Google DeepMind. Penggunaan huruf besar yang luar biasa menyerlahkan huruf R, S dan I. Jawatan itu tidak membekalkan kaedah eksperimen, keputusan prestasi atau penjelasan tentang penglibatan manusia. Ia adalah jemputan untuk membuat kesimpulan sesuatu daripada singkatan.

Kemudian pada tarikh itu, Lentils, @Lentils80, memetik siaran Lyra dan merujuk kepada model dalaman yang dikatakan dipanggil rsi-model-liverl-le, bersama-sama dengan sepuluh slot latihan bernombor. Tangkapan skrin yang berkaitan menjadi satu lagi tumpuan spekulasi. Itu adalah dakwaan tentang penyenaraian dalaman yang didakwa; ketulenan penyenaraian dan hubungannya dengan sistem kerja tidak ditubuhkan secara bebas dalam penyiasatan ini.

Pada 12 September, Chubby, @kimmonismus, menguatkan khabar angin dan memaut kembali ke siaran Lyra yang sama. Ini mewujudkan laluan peredaran. Ia tidak mencipta sumber bebas kedua untuk kejayaan. Reputasi akaun untuk kebocoran terdahulu juga tidak menggantikan bukti mengenai tuntutan khusus ini.

Malah nama dalaman yang sahih akan membiarkan soalan utama tidak dijawab. Pasukan mungkin menamakan projek selepas matlamatnya sebelum mencapainya. Percubaan mungkin menambah baik komponen sempit sementara masih banyak bergantung pada arah manusia. Kami memerlukan hasil yang diukur, garis dasar yang jelas dan akaun tentang perkara yang diautomatikkan sebelum membuat kesimpulan yang lebih kukuh.

Setakat tarikh semakan ini, kesimpulannya terhad: khabar angin RSI Google mempunyai sumber X yang boleh dijejaki, tetapi hantaran itu belum membuktikan RSI autonomi sepenuhnya. Saya tidak menemui pengumuman Google yang mengesahkan senarai dalaman tersebut atau mengemukakan penilaian berulang dan bebas yang diperlukan untuk menyokong tafsiran itu. Ini ialah batas bukti awam yang disemak, bukan bukti bahawa tiada kemajuan yang belum diumumkan.

Penyelidikan terbitan Google lebih bermakna daripada nama yang bocor

Terdapat sebab khabar angin itu menemui penonton. Google telah menerangkan secara terbuka AI menyumbang kepada pembangunan AI. Dalam pengumuman 2 September 2026 Gemini 3.8, syarikat itu berkata gelung agenik yang berjalan lama membantu menilai dan memperhalusi model asas secara rekursif. Itu adalah pernyataan substantif yang boleh dikaitkan tentang proses pembangunannya. Ia masih tidak menyatakan rantaian sistem pengganti autonomi sepenuhnya. Pengumuman Gemini 3.8 Google.

Keputusan awal memberikan idea skala konkrit. Google DeepMind melaporkan pada Mei 2025 bahawa AlphaEvolve menambah baik inti latihan Gemini utama sebanyak 23%, menyumbang kepada kira-kira 1% pengurangan dalam masa latihan keseluruhan. Ejen pengekodan menggunakan model bahasa, penilaian automatik dan pemilihan untuk mencari algoritma yang lebih baik. Pengumuman AlphaEvolve, 14 Mei 2025.

Perbezaan antara 23% dan 1% adalah instruktif. Menambah baik satu komponen tidak meningkatkan keseluruhan kitaran pembangunan dengan jumlah yang sama. Kerja lain masih mengambil masa. Namun penjimatan yang kecil boleh menjadi penting apabila digunakan berulang kali untuk latihan yang mahal, dan pengoptimuman yang berguna boleh menjadi sebahagian daripada proses yang menghasilkan model seterusnya.

Itu adalah asas yang lebih baik untuk optimis daripada meneka maksud nama fail. Medan boleh membuat kemajuan berbangkit sebelum sesiapa pun menunjukkan versi terkuat RSI. Kita seharusnya dapat mengiktiraf pencapaian kejuruteraan tanpa mengubahnya menjadi dakwaan bahawa AI telah menjadi pencipta bebas bagi keseluruhan masa depannya.

Akaun Anthropic 4 Jun 2026 tentang perkembangannya sendiri membuat perbezaan yang sama. Ia melaporkan peningkatan penyertaan AI dalam kejuruteraan dan eksperimen sambil mengenal pasti hala tuju penyelidikan dan pertimbangan sebagai jurang yang tinggal. Perbincangannya mengenai pembangunan pengganti autonomi sepenuhnya adalah bersyarat secara jelas. Ini adalah pemerhatian syarikat tentang aliran kerjanya sendiri, bukan bukti bebas RSI berautonomi. Apabila AI membina dirinya sendiri.

Amodei, Altman dan Musk menyokong kawalan kadar pembangunan

Pada 12 September, Ketua Pegawai Eksekutif Anthropic Dario Amodei mencadangkan kawalan kadar pembangunan AI paling maju supaya usaha keselamatan sempat mengejar peningkatan keupayaan. Pelannya merangkumi penilai bebas dengan akses dalaman berterusan, penyelarasan antara pembangun utama di negara demokrasi dan kerjasama antarabangsa lebih luas. Anthropic berjanji melaksanakan langkah pertama; penyelarasan yang lebih luas masih perlu dibentuk. Esei Amodei pada September.

Sam Altman kemudian menyokong kawalan kadar itu secara terbuka di X dan menyatakan OpenAI juga akan memberi penilai bebas akses setanding dengan pekerja. Elon Musk menyokong pendirian Amodei dalam hantaran ringkas. Ini ialah kenyataan sokongan yang boleh disemak secara langsung. Laporan perlu tepat tanpa menambah perjanjian pelaksanaan yang lebih terperinci daripada apa yang dinyatakan.

Tindakan awamPerkara yang ditetapkanApa yang tidak ditetapkan
Cadangan Amodei dan janji Anthropic untuk menerima penilai bebasCadangan pengawasan khusus dan komitmen syarikatMekanisme penyelarasan global yang lengkap
Maklum balas AltmanSokongan terhadap kawalan kadar dan janji serupa tentang penilaiPerjanjian mengurangkan rancangan latihan model atau pelancaran di semua makmal
Pengendorsan MuskSokongan kepada Amodei yang dinyatakan Musk secara terbukaPelan pelaksanaan terperinci atau kelembapan yang disahkan secara bebas

Mengawal kadar tidak bermaksud menghentikan semua penyelidikan AI. Amodei mencadangkan masa untuk langkah perlindungan dan penilaian luar sambil meneruskan kemajuan. Cabarannya ialah pelaksanaan: apa yang dinilai, siapa diberi akses, siapa boleh menerbitkan dapatan yang tidak memihak kepada syarikat, dan apa berlaku jika syarikat menolak penilaian? Jawapan itu menentukan sama ada janji mengubah tindakan.

Pembacaan saya ialah penumpuan itu penting kerana pesaing secara terbuka mengakui masalah bersama. Ia tidak menghapuskan insentif persaingan mereka. Penilaian bebas akan sangat berharga kerana pelanggan, kerajaan dan pemaju saingan tidak sepatutnya menerima jaminan mengenai reputasi semata-mata. Piawaian harus menjadi bukti susulan, bukan kekuatan emosi kenyataan awam.

Terdapat juga kebimbangan yang sah tentang cara pengaturan sedemikian direka. Keperluan pematuhan yang mahal boleh memihak kepada organisasi yang sudah mempunyai belanjawan yang besar. Itulah sebab untuk menuntut peraturan yang berkadar, penilai yang bertanggungjawab dan ruang untuk pembangun yang lebih kecil. Ia bukan bukti bahawa kebimbangan keselamatan yang dinyatakan adalah rekaan, atau khabar angin Google menyebabkan panggilan untuk kawalan kadar pembangunan.

Trump meletakkan persaingan dengan China di tengah perdebatan

Pada 13 September, Trump memberitahu wartawan di Ireland bahawa beliau mahu AS mengekalkan kelebihan AI berbanding China dan kurang menyokong seruan mengehadkan pembangunan. Beliau mengakui kemungkinan beberapa langkah perlindungan, tetapi tidak memperincikan peraturan. Kenyataannya menentang usaha memperlahankan persaingan, bukan memveto perjanjian industri yang sudah dimuktamadkan. Associated Press, 13 September, diterbitkan CityNews.

Masalah strategik boleh difahami. Jika satu kumpulan menerima sekatan yang mahal manakala pesaing tidak, kelebihan yang terhasil boleh menjejaskan kuasa ekonomi dan keselamatan. Oleh itu, pengaturan antarabangsa yang boleh dilaksanakan memerlukan cara untuk menentukan sama ada peserta melakukan apa yang mereka janjikan. Mengisytiharkan bahawa semua orang harus bekerjasama adalah lebih mudah daripada mereka bentuk pengesahan yang boleh dipercayai.

Tetapi memenangi perlumbaan dan mengawal akibatnya adalah pencapaian yang berasingan. Sistem yang menyebabkan kegagalan yang boleh dielakkan tidak boleh dipercayai kerana ia dibina di dalam negara. Pandangan saya ialah kepimpinan harus merangkumi kapasiti untuk menguji, menjamin dan mentadbir sistem yang berkuasa, serta kapasiti untuk melatih mereka. Keupayaan tersebut boleh mengukuhkan petunjuk yang tahan lama dan bukannya hanya melambatkan kemajuan.

Adalah mengelirukan jika membentangkan perdebatan awam sebagai keselamatan di satu pihak dan kebimbangan mengenai China di pihak yang lain. Cadangan Amodei sendiri membincangkan mengekalkan petunjuk sambil mencari penyelarasan antarabangsa. Percanggahan pendapat itu sebahagiannya disebabkan oleh cara: sama ada petunjuk paling baik dilindungi oleh kelajuan pembangunan maksimum, dengan pengawasan bersama yang lebih kuat atau oleh gabungan yang sebenarnya boleh disahkan.

Kitaran penyelidikan yang lebih baik boleh merapatkan jarak antara penemuan

Kemungkinan yang menarik bukan sekadar pembantu seterusnya menulis jawapan yang lebih baik. Pembantu yang lebih baik memendekkan kerja yang diperlukan untuk melahirkan generasi selepas mereka. Generasi itu kemudiannya boleh memperbaiki proses penyelidikan sekali lagi. Jika keuntungan dipindahkan dan berterusan, kemajuan boleh dikompaun dan bukannya tiba sebagai peningkatan terpencil.

Gelung bermakna mempunyai beberapa kerja. Ia memilih masalah yang berguna, mencadangkan campur tangan, menjalankan eksperimen, menilai keputusan dan mengekalkan penambahbaikan hanya apabila bukti menyokongnya. Hasil yang dikekalkan kemudian membantu kitaran seterusnya. Mempercepatkan penjanaan cadangan adalah membantu; mempercepatkan keseluruhan urutan sambil mengekalkan kesahan adalah lebih penting.

Bayangkan pasukan yang boleh meneroka sepuluh pendekatan yang boleh dipercayai dalam masa ia meneroka satu sebelum ini. Sesetengah percubaan tambahan akan gagal, dan itu adalah perkara biasa. Faedahnya datang daripada pembelajaran lebih awal pendekatan mana yang patut mendapat lebih banyak sumber. Jika sistem juga menjadi lebih baik dalam memilih percubaan, pasukan memperoleh kedua-dua lebih banyak percubaan dan peluang yang lebih baik bahawa setiap percubaan adalah bermaklumat.

Ini adalah senario bersyarat, bukan ramalan kemajuan sepuluh kali ganda. Penyelidikan mengandungi kebergantungan: satu percubaan mungkin memerlukan hasil percubaan yang lain, dan kegagalan yang tidak dijangka mungkin memerlukan kaedah pengukuran baharu. Lebih banyak pengiraan tidak menjamin cerapan yang berguna. Kuantiti penting ialah kadar pembelajaran yang disahkan, bukan berapa ramai ejen kelihatan sibuk sekaligus.

Gelung penyelidikan yang dicadangkan hanya mengekalkan penambahbaikan yang disahkan dan sistem pengganti subjek kepada semakan bebas

Rajah mekanisme yang dihasilkan untuk artikel ini. Penambahbaikan memasuki kitaran seterusnya hanya selepas dinilai, sementara semakan bebas berada di luar kitaran. Rajah mencadangkan cara kerja, bukan mendakwa bahawa mana-mana makmal sudah menyiapkan sistem tersebut.

Jika ini boleh dipercayai, jadual perubahan mungkin berbeza. Alat mungkin bertambah baik sementara organisasi masih menyesuaikan diri dengan keluaran sebelumnya. Pasukan boleh mendapati bahawa projek yang ditangguhkan kerana terlalu mahal telah menjadi boleh dilaksanakan, kemudian mendapati kesesakan seterusnya ialah pengesahan atau penghantaran. Pecutan itu akan dialami sebagai kekangan yang berubah-ubah, bukan sahaja sebagai pengumuman model yang mengagumkan.

Pemikiran lebih pantas masih memerlukan masa dalam dunia fizikal

Percubaan pemikiran mudah menunjukkan sebab pecutan mempunyai had. Katakan 80% daripada kitaran penyelidikan boleh dibuat sepuluh kali lebih cepat, manakala baki 20% tidak berubah. Kitaran baharu mengambil masa 28% daripada masa asal, peningkatan kira-kira 3.6 kali, bukan sepuluh. Pengiraan ialah 0.8 dibahagikan dengan 10, ditambah 0.2. Ini adalah andaian ilustrasi, bukan ukuran makmal AI.

Bahagian yang tidak berubah boleh menjadi bahagian dominan secara mengejutkan dengan cepat. Ia mungkin menunggu perkakasan, mengumpul data perwakilan, menyemak sifat keselamatan atau menghasilkan semula hasil. Dalam projek bioperubatan ia boleh melibatkan kerja makmal dan bukti klinikal; dalam projek tenaga ia boleh melibatkan bahan, pembinaan dan sambungan ke grid. Penaakulan yang lebih baik tidak menjadikan kebergantungan tersebut hilang.

Inilah sebabnya mengapa model yang terus bertambah baik tidak akan serta-merta menyampaikan dunia yang terus bertambah baik. Penemuan, pembuatan, pengedaran dan penerimaan mempunyai jadual yang berbeza. Sesetengah kesesakan sendiri boleh diperbaiki dengan AI; yang lain memerlukan institusi, pelaburan dan kapasiti fizikal. Senario optimistik yang realistik termasuk kerja pada kesemuanya.

Ia juga memberi ruang untuk kemungkinan bentuk terkuat dari gerai RSI. Keuntungan mungkin berhenti dipindahkan, percubaan mungkin menjadi lebih mahal atau kemajuan mungkin bergantung pada cerapan kaedah semasa yang tidak dapat ditemui. Walaupun begitu, penyebaran keupayaan yang sudah berguna boleh membuat perbezaan yang besar. Kami tidak memerlukan lengkung pecutan tak terhingga untuk mewajarkan peningkatan akses kepada alatan yang baik.

Kesilapan juga boleh diwariskan kepada generasi seterusnya

Maklum balas yang sama yang mengekalkan penambahbaikan boleh mengekalkan kesilapan. Katakan ejen penyelidikan menemui perubahan yang meningkatkan skor penilaiannya dengan mengeksploitasi kelemahan dalam ujian. Jika hasilnya diterima sebagai kemajuan tulen, kerja seterusnya boleh membinanya. Sistem mungkin menjadi lebih baik dalam memenuhi pengukuran sambil menjadi kurang berguna di luar pengukuran itu.

Ini adalah risiko struktur, bukan bukti bahawa model Google yang bocor tertentu berkelakuan seperti ini. Ia menerangkan mengapa penilai memerlukan perlindungan daripada sistem yang dinilai. Ujian bebas, kebenaran berasingan dan rekod yang boleh dibuat semula menjadikannya lebih sukar untuk tuntutan kejayaan yang tersilap untuk menjadi asas untuk keluaran seterusnya. Gelung yang lebih pantas menjadikan pemisahan itu lebih berharga.

Terdapat versi manusia untuk masalah yang sama. Apabila volum kerja bertambah, orang boleh mula meluluskan perubahan yang mereka tidak faham lagi kerana perubahan sebelumnya kelihatan berkesan. Butang kelulusan manusia bukanlah pengawasan yang bermakna jika penyemak kekurangan masa, bukti yang berkaitan atau keupayaan untuk menghentikan proses tersebut. Reka bentuk perlu mengekalkan peluang sebenar untuk tidak bersetuju.

Atas sebab itu, saya akan melihat hubungan antara kelajuan pembangunan dan masa yang ada untuk bertindak balas. Berapa cepat masalah boleh dikesan? Bolehkah proses yang terjejas dijeda? Bolehkah keluaran ditarik balik, dan adakah kesan pentingnya boleh diterbalikkan? Jawapannya akan berbeza merentasi pembantu penulisan, sistem penyelidikan dan perisian dengan akses kepada infrastruktur kritikal.

Amaran harus berkadar. Ini bukan ramalan bahawa setiap gelung peningkatan akan menjadi berbahaya, atau hujah bahawa AI yang berguna sepatutnya tidak tersedia. Ia adalah sebab untuk memberi sistem kuasa secara berperingkat dan untuk memeriksa akibat pada setiap peringkat. Lebih cepat keupayaan maju, semakin kurang kita harus bergantung pada keyakinan tidak formal sebagai kawalan utama.

Masa depan lebih baik menjadikan bantuan pakar lebih mudah diperoleh

Inilah masa depan saya ingin penyelidikan ini menyokong: kepakaran yang berguna menjadi lebih mudah diperoleh, sementara orang ramai mengekalkan keupayaan untuk mempersoalkannya. Organisasi kecil sepatutnya dapat memeriksa masalah yang sukar tanpa terlebih dahulu mengumpulkan pasukan pakar yang besar. Seorang pelajar harus mempunyai penjelasan yang sabar yang menyesuaikan diri dengan kegagalan pemahaman. Seorang penyelidik harus menghabiskan lebih sedikit masa sehari untuk mendapatkan alat untuk berfungsi dan lebih banyak daripada itu memutuskan perkara yang patut disiasat.

Ini adalah senario, bukan janji yang dilampirkan pada tarikh pelancaran AGI. Nilai mereka datang daripada mengurangkan kos kerja yang teliti. Jika lebih ramai orang boleh membandingkan pilihan, semak andaian dan meneroka bidang yang tidak dikenali, projek berfaedah boleh dimulakan yang sebaliknya tidak akan dicuba. Faedah tidak perlu bergantung pada penyingkiran orang daripada proses.

Dalam penyelidikan penjagaan kesihatan, sumbangan yang diharapkan adalah jalan yang lebih singkat daripada idea yang munasabah kepada calon yang diuji dengan baik. Sistem yang lebih baik boleh menghubungkan penemuan merentas kepakaran, mengenal pasti andaian yang lemah dan membantu mereka bentuk eksperimen bermaklumat. Pengesahan makmal dan klinikal masih akan menentukan sama ada penemuan membantu pesakit. Penemuan yang lebih pantas adalah berharga apabila ia meningkatkan bukti yang mencapai peringkat tersebut, bukan apabila ia menggantikan peringkat dengan prosa yang yakin.

Dalam pendidikan, peluang lebih bersifat peribadi. Bayangkan seorang pelajar yang boleh bertanya soalan yang sama tiga cara berbeza tanpa rasa malu, kemudian menerima penjelasan dalam bahasa dan konteks yang mereka fahami. Seorang guru boleh menggunakan sistem untuk meneroka salah tanggapan dan menyediakan latihan yang lebih baik. Hasil yang diinginkan adalah pemahaman manusia yang lebih besar, dengan guru dan pelajar dapat memeriksa dan membetulkan bantuan.

Untuk perisian dan perkhidmatan awam, kemajuan boleh menjadikan penyelenggaraan yang diabaikan mampu milik. Pasukan kecil mungkin menyiasat kecacatan, meningkatkan kebolehcapaian dan memodenkan sistem sukar yang sebelum ini kurang perhatian kejuruteraan yang mencukupi. Untuk kerja iklim dan tenaga, carian dan simulasi yang lebih baik boleh membantu penyelidik membandingkan reka bentuk sebelum melakukan ujian fizikal yang mahal. Ini adalah laluan daripada keupayaan penyelidikan kepada nilai praktikal, dengan kekangan yang berbeza dalam setiap domain.

Pengagihan faedah-faedah tersebut akan penting sama seperti kemungkinan teknikalnya. Sistem yang sangat baik tetapi tidak mampu dimiliki, tidak boleh diakses dalam bahasa komuniti atau mustahil untuk dicabar boleh meninggalkan ramai orang di belakang. Penyelidikan kepentingan awam, antara muka yang boleh diakses, persaingan dan akses yang sesuai kepada model berguna adalah sebahagian daripada gambaran optimistik. Faedah luas ialah objektif reka bentuk dan dasar, bukan sifat perisikan automatik.

Kerja akan berubah sepanjang perjalanan, dan keuntungan tidak akan memadamkan peralihan yang sukar. Sesetengah tugas mungkin memerlukan lebih sedikit orang; tanggungjawab lain mungkin menjadi lebih mencabar. Organisasi harus melabur dalam keupayaan orang ramai untuk menggunakan, menilai dan mengubah hala alat baharu dan bukannya menganggap latihan semula sebagai sesuatu yang difikirkan semula. Masa depan yang lebih baik memberi orang lebih banyak pilihan semasa peralihan itu, bukan sekadar janji bahawa bilangan agregat akan bertambah baik.

Tiga syarat menghubungkan penyelidikan AI yang lebih pantas kepada manfaat awam: bukti, kawalan yang bertanggungjawab dan akses luas

Rangka kerja editorial asal. Bukti, kawalan dan akses adalah syarat untuk senario yang diharapkan di atas; ia bukan ramalan atau kedudukan negara dan syarikat.

Kemajuan bermakna ialah kemajuan yang manusia boleh fahami dan arahkan

Apabila tuntutan RSI seterusnya muncul, tanyakan apa yang berubah dan apakah bukti yang terselamat daripada pemeriksaan. Adakah jawapan bertambah baik, alat bertambah baik atau keupayaan untuk membangunkan sistem masa hadapan bertambah baik? Adakah keuntungan dikeluarkan semula di luar penilaian asal? Siapa yang membekalkan arah penyelidikan, dan apakah yang masih berada di bawah kawalan manusia? Soalan-soalan itu lebih bermaklumat daripada kira detik kepada penemuan yang tidak jelas.

Bagi pasukan yang menggunakan AI hari ini, penyediaan praktikal adalah sama konkrit. Pastikan bahan sumber penting berkaitan dengan keputusan. Asingkan kerja penerokaan daripada tindakan dengan akibat yang berkekalan. Beri pengulas bukti yang mereka boleh periksa dan jadikan pilihan yang salah untuk diterbalikkan. Tabiat ini berguna di bawah keupayaan hari ini dan menjadi lebih berharga jika kitaran pembangunan semakin pantas.

Khabar angin Google tidak disahkan dalam bentuk terkuatnya. Peralihan yang lebih luas ke arah AI yang mengambil bahagian dalam penyelidikan AI telah didokumenkan. Kita boleh mengambil serius peralihan itu tanpa berpura-pura mengetahui tarikh atau bentuk titik akhirnya. Ukuran kejayaan pilihan saya ialah sejauh mana lebih ramai orang boleh memahami, mencipta dan menambah baik sambil mengekalkan kata-kata yang bermakna dalam perkara yang akan berlaku seterusnya.

Sumber dan batas semakan ini

Siaran X telah disemak melalui respons benam awam X, termasuk pautan yang menghubungkan khabar angin asal dan penguatannya. Ini mengesahkan siaran yang diterbitkan, bukan kesahihan tangkapan skrin dalaman yang didakwa. Tarikh yang dilampirkan pada siaran tersebut menggunakan tarikh yang dipaparkan oleh X; tarikh kalendar tempatan boleh berbeza.


Ruang menyimpan asas sesuatu keputusan

Telli.sh membawa nota, rakaman, terjemahan dan Clips ke dalam ruang kerja yang anda boleh kembali. Jika perbualan atau artikel mengubah pandangan anda tentang AI, simpan sumber di sebelah idea dan keputusan yang dimaklumkan. Model akan terus berubah; alasan yang anda pilih untuk dipelihara harus kekal difahami.

Buat ruang kerja Telli.sh untuk pengetahuan yang anda ingin simpan


Kembali ke blog