Sungguh, hampir tidak adil untuk memegang perusahaan teknologi untuk pernyataan misinya. Dari Google’s “Don’t Be Evil” hingga WeWork “Tinggikan Kesadaran Dunia,” pernyataan misi biasanya ditulis dalam masa remaja perusahaan, pada saat yang canggung ketika impian mereka membentang ke cakrawala, para pemodal ventura semuanya tersenyum, dan tidak ada yang pernah mendengar tentang istilah “tanggung jawab fidusia.” Ini seperti menilai seseorang berdasarkan sentimen yang diungkapkan di belakang buku tahunan sekolah menengah mereka.
Tapi Openai, Anda mendorongnya.
Arahkan ke halaman Tentang Perusahaan, dan Anda masih akan membaca kata -kata ini, yang pertama kali muncul dalam piagam 2018, tiga tahun setelah pendiriannya: “Misi kami adalah untuk memastikan bahwa kecerdasan umum buatan – sistem AI yang umumnya lebih pintar daripada manusia – menguntungkan seluruh kemanusiaan.” Ini, untuk sedikitnya, bukan sesuatu yang selalu mereka jalani, seperti yang ditunjukkan oleh beberapa liputan perusahaan di masa depan yang ditunjukkan oleh perusahaan. (Pengungkapan: Vox Media adalah salah satu dari beberapa penerbit yang telah menandatangani perjanjian kemitraan dengan Openai. Pelaporan kami tetap independen secara editorial.)
Lihat, jika Anda bertanya kepada saya apa pernyataan misi saya ketika saya berusia 3 tahun, mungkin akan, “Menjadi pemain NBA pertama yang mendarat di Mars.” Kami tidak selalu mencapai apa yang harus kami lakukan. Prioritas berubah, Anda tidak tumbuh hingga 7-kaki-2, ternyata Anda takut ruang-Anda tahu apa yang saya maksud.
Tetapi dengan produk terbarunya-jejaring sosial video yang dihasilkan AI Sora 2-Openai mungkin telah menetapkan rekor sepanjang masa untuk jarak terbesar antara pernyataan misi dan pekerjaan aktual.
Porsi slop ai yang tak terbatas
Cara terbaik untuk memahami Sora 2 adalah bahwa ia menikahi mungkin aspek terburuk dari model bahasa besar seperti chatgpt – kemampuan mereka yang kuat untuk membuat pengguna terpikat pada mereka – dengan apa yang tidak dapat disangkal aspek terburuk dari media modern: gulungan tanpa akhir dari video vertikal yang tak ada artinya, yang di antara efek negatif lainnya, telah memeluk rentang perhatian kami.
Ini seperti mengonsumsi heroin dan mencampurnya dengan … Saya tidak tahu, apakah ada obat yang sangat membuat ketagihan, membuat Anda mengosongkan rahang sebelum layar, dan mengurangi beberapa lusin poin IQ? Heroin, dengan, seperti, lebih banyak heroin? Saya sebenarnya tidak yakin saya memiliki pengalaman narkoba untuk menjawab pertanyaan ini.
Masalah-masalah dasar yang ditimbulkan oleh video yang dihasilkan AI yang sangat nyata jelas dan terwujud hampir secara instan pada peluncuran Sora 2 awal pekan ini.
Kisah ini pertama kali ditampilkan di Newsletter Perfect Future.
Daftar di sini untuk mengeksplorasi masalah besar dan rumit yang dihadapi dunia dan cara paling efisien untuk menyelesaikannya. Dikirim dua kali seminggu.
Ambil pelanggaran hak cipta. Salah satu video Sora 2 pertama yang saya temui adalah Rick dan Morty yang diterjemahkan dengan sempurna mengunjungi SpongeBob Squarepants, dan ya, jiwaku mati sedikit menulis kalimat itu. Ternyata Openai Set Sora 2 untuk mengizinkan materi yang dilindungi hak cipta secara default, menempatkan tanggung jawab pada pemegang kekayaan intelektual untuk secara proaktif meminta Openai, tolong, silakan keluarkan materi mereka. Yang akan – meskipun tidak sebelum OpenAi menuai buzz jejaring sosial dari semua klon Rick dan Morty, seperti halnya selama kegemaran singkat untuk studio ghiblifying foto Anda. (Saya tahu Anda semua masih memilikinya di suatu tempat.)
Lalu, ada Deepfake. Salah satu fitur pembunuh Sora 2 adalah Anda dapat mengunggah gambar Anda ke dalam aplikasi dan kemudian memasukkannya ke dalam video yang dihasilkan AI yang Anda inginkan, atau mengizinkan teman Anda melakukannya, atau-jika penyelarasan pribadi Anda netral kacau-izinkan setiap Pengguna Sora untuk memanfaatkannya. Nah, seperti yang dilaporkan The Washington Post, butuh sekitar lima detik sebelum klip mulai dihasilkan dari rekaman bodycam polisi palsu; Orang sungguhan berpakaian seperti jenderal Nazi; rekaman peristiwa sejarah yang sangat realistis tetapi palsu; Dan ya, CEO Openai Sam Altman mengutil.
Artinya, pada saat ketika Presiden Amerika Serikat memposting video-video Deepfake yang dihasilkan AI dari Pemimpin Minoritas DPR Demokrat dalam sombrero dan kumis, Openai baru saja menyerahkan orang Amerika-setidaknya mereka yang memiliki kode akses Sora 2-video palsu yang sangat realistis dengan menekan tombol. Dan menciptakan jejaring sosial seperti tiktok yang dapat dibagikan. Meskipun baik bahwa Openai telah memasukkan aturan untuk melarang peniruan, penipuan dan penipuan, dan pagar pembatas untuk memblokir ketelanjangan dan kekerasan grafis, rasanya seperti mengatakan senjata otomatis dengan keamanan sama sekali tidak berbahaya.
Entah bagaimana, saya ragu bahwa semua itu akan “menguntungkan semua umat manusia.” Tetapi hampir pasti akan menguntungkan garis bawah Openai, pada saat perusahaan hanya bernilai $ 500 miliar – mengalahkan bahkan SpaceX – dan ketika suara tentang gelembung AI menjadi tidak mungkin untuk diabaikan. (Quick, Sora 2, menghasilkan saya video tentang apa yang akan tersisa dari ekonomi AS ketika satu-satunya industri yang mengemudi itu pergi Ka-blooey!)
Siapa yang menguntungkan?
Jadi. Apa yang dipikirkan Sam Altman tentang semua ini? Untungnya, Sam telah menyimpan blog sejak setidaknya 2013, ketika dia merenungkan kemungkinan keberadaan alien. Sora 2, tulisnya, adalah momen “chatgpt untuk kreativitas ‘,” yang dapat mengarah pada “ledakan Cambrian,” di mana “kualitas seni dan hiburan dapat meningkat secara drastis.”
Yang mana … kurasa? Tentu saja zaman pasca-Cambrian menyebabkan beberapa makhluk yang sangat aneh, seperti Tullimonstrum, Atau “Tully Monster,” makhluk bermata batang dengan selang grabber untuk mulut yang terlihat seperti sesuatu yang mungkin Anda dapatkan jika Tuhan bisa mencetak kode akses Sora 2. Jika mesin remix Deepfake yang tidak ada artinya adalah Sora 2 adalah apa yang akan dianggap kreativitas di masa depan, beri saya maximizer AI clip maximizer.
Tapi mungkin bagian terburuk tentang Sora 2 – dan generator slop AI serupa dari meta – adalah bahwa itu menaungi pekerjaan AI yang sebenarnya dapat menguntungkan semua umat manusia. Pada minggu yang sama OpenAi melepaskan Sora 2 Upon Us, sejumlah pengasingan dari perusahaan AI besar mengumumkan peluncuran laboratorium periodik, startup yang bertujuan menggunakan kecerdasan buatan untuk mempercepat penemuan dalam fisika, kimia, dan bidang ilmiah lainnya. Anda tahu, hal -hal yang sebenarnya bisa kami gunakan.
Mungkin terlalu sederhana bagi saya untuk menanyakan pikiran terbaik dan paling kompensasi dari generasi saya yang berjuang keras di perusahaan AI untuk, seperti, melakukan ini alih -alih itu. Bagaimanapun, Openai adalah bisnis. (Atau organisasi nirlaba? Atau perusahaan manfaat publik? Jujur itu sedikit mengudara saat ini.) Ini mengikuti apa yang ditentukan pasar. Yang berarti garis pertahanan terakhir adalah bagi kami, pengguna dunia, untuk berdiri dan berkata, “Tidak, saya tidak akan memakan slop ai Anda.”
Tentu saja, pada cek terakhir, Sora adalah No. 3 di bagan aplikasi iPhone. Kita semua kacau.
