Pihak Berkuasa Mingguan: 📱 Pixel 8 banyak bocor

⚡ Selamat datang ke Pihak Berkuasa Mingguanyang Android Authority surat berita yang menghuraikan berita Android dan teknologi teratas dari minggu itu. Edisi ke-236 di sini dengan paparan pertama siri Pixel 8, cip Exynos yang tidak selamat, sut bulan Artemis baharu NASA, berita Oscar dan kemungkinan pengambilalihan AI.

🎮 Selepas membiarkan langganan PS Plus saya luput, saya telah terpikat kembali kepada Premium dengan peluang untuk memainkan semula Heavy Rain, ditambah Ghostwire Tokyo dan koleksi PS5 Uncharted yang akan datang minggu depan. Teruja!

Bolehkah GPT-4 mengambil alih dunia? Itulah soalan yang ditanya oleh kumpulan itu Pusat Penyelidikan Penjajaran (ARC), diupah oleh OpenAI untuk menjalankan ujian potensi risikonya model AI baharu yang dilancarkan pada hari Selasa (h/t Ars Technica).

• Kumpulan itu melihat potensi risiko keupayaan muncul model, seperti peningkatan diri, tingkah laku mencari kuasa dan replikasi diri.
• Penyelidik menilai sama ada model itu mempunyai potensi keupayaan untuk memperoleh sumber, menjalankan serangan pancingan data, atau menyembunyikan dirinya pada pelayan.
• Hakikat bahawa OpenAI merasakan ujian ini perlu menimbulkan persoalan tentang tahap keselamatan sistem AI masa depan.
• Dan ia jauh dari kali pertama itu Penyelidik AI telah menimbulkan kebimbangan bahawa model AI yang berkuasa boleh menimbulkan ancaman wujud kepada kewujudan manusia. Ini sering dirujuk sebagai “risiko x” (risiko kewujudan).
• Jika anda pernah melihat Terminator, anda tahu semua tentang “Pengambilalihan AI,” di mana AI mengatasi kecerdasan manusia dan mengambil alih planet ini dengan berkesan.
• Biasanya, akibat daripada pengambilalihan hipotetikal ini tidaklah hebat — tanya sahaja John Connor.
• Potensi risiko x ini telah membawa kepada perkembangan pergerakan seperti Altruisme yang berkesan (EA), yang bertujuan untuk menghalang pengambilalihan AI daripada menjadi kenyataan.
• Satu bidang yang saling berkaitan dikenali sebagai Penyelidikan penjajaran AI mungkin kontroversi, tetapi ia merupakan bidang penyelidikan yang aktif yang bertujuan untuk menghalang AI daripada melakukan apa-apa yang tidak sesuai dengan kepentingan manusia. Kedengaran ok kepada kami.
• Komuniti ini bimbang AI yang lebih berkuasa akan tiba, kepercayaan yang diberikan lebih mendesak oleh kemunculan baru-baru ini SembangGPT dan Sembang Bing.

Nasib baik untuk manusia, kumpulan ujian memutuskan bahawa GPT-4 tidak keluar untuk penguasaan dunia, menyimpulkan: “Penilaian awal kebolehan GPT-4, dijalankan tanpa penalaan halus khusus tugas, mendapati ia tidak berkesan untuk mereplikasi secara autonomi, memperoleh sumber , dan mengelak daripada ditutup ‘di alam liar.’”

• Anda boleh menyemak sendiri keputusan ujian di Dokumen Kad Sistem GPT-4 dikeluarkan minggu lepas, walaupun tiada maklumat tentang cara ujian dilakukan.
• Daripada dokumen itu, “Keupayaan novel sering muncul dalam model yang lebih berkuasa. Beberapa yang amat membimbangkan ialah keupayaan untuk mencipta dan bertindak mengikut rancangan jangka panjang, untuk mengakru kuasa dan sumber (“mencari kuasa”), dan untuk mempamerkan tingkah laku yang semakin ‘agentik.’” Itu tidak bermakna model menjadi peka, hanya kerana mereka dapat mencapai matlamat secara bebas.
• Tetapi tunggu: ada lagi.
• Dalam kejadian yang membimbangkan, GPT-4 berjaya mengupah seorang pekerja di TaskRabbit untuk menyelesaikan CAPTCHA, dan apabila disoal sama ada ia AI, GPT-4 beralasan dengan dirinya sendiri bahawa ia harus merahsiakan identitinya, kemudian mencipta alasan tentang gangguan penglihatan. Pekerja manusia menyelesaikan CAPTCHA. Hmm.
• Nota kaki yang membuat pusingan di Twitter turut menimbulkan kebimbangan.

Sudah tentu, banyak lagi cerita ini, jadi lihat ciri penuh di atas Ars Technica untuk menyelam dalam (sedikit menakutkan).