Trevor Noah khawatir tentang arah perkembangan generator video AI yang kontroversial.
Komedian dan mantan Pertunjukan Harian Host mengatakan aplikasi video AI seperti Sora milik OpenAI bisa menjadi “bencana” jika mereka terus menggunakan kemiripan orang tanpa izin.
“Saya harus mencari tahu apa yang mereka lakukan dan bagaimana mereka melakukannya,” katanya kepada GeekWire. “Tetapi menurut saya ini tidak akan berakhir dengan baik jika mereka tidak berurusan dengan perizinan.”
Kami bertemu dengan Noah – “chief question officer” Microsoft – pada hari Kamis setelah dia muncul di kantor pusat perusahaan di Redmond, di mana dia membantu meluncurkan inisiatif pendidikan AI baru di negara bagian Washington.
OpenAI minggu lalu meluncurkan Sora 2, versi baru dari sistem pembuatan video AI yang menghasilkan klip hiper-realistis dari perintah teks atau rekaman yang ada. Versi baru menambahkan fitur “Cameo” yang memungkinkan pengguna menghasilkan video yang menampilkan kemiripan manusia dengan mengunggah atau mereferensikan foto yang ada.
Peningkatan ini telah menjadikan Sora, yang tersedia hanya melalui undangan, menjadi salah satu produk teknologi konsumen paling viral pada tahun 2025 — ini adalah aplikasi gratis teratas di App Store Apple.
Hal ini juga mendapat penolakan keras dari agensi bakat besar Hollywood yang mengkritik perangkat lunak tersebut karena memungkinkan penggunaan gambar atau kemiripan seseorang tanpa persetujuan atau kompensasi eksplisit.
Sementara itu, video buatan AI yang menggambarkan mendiang selebriti seperti Robin Williams dan George Carlin telah memicu kemarahan publik dari keluarga mereka.
Noah mengatakan kepada GeekWire bahwa “ini bisa menjadi bencana paling besar bagi siapa pun dan semua orang yang terlibat.”
Dia merujuk pada Denmark, yang baru-baru ini memperkenalkan undang-undang yang akan memberikan kepemilikan individu atas kemiripan digital mereka.
“Saya pikir AS perlu mengejar hal itu secepatnya,” kata Noah.
Pakar hukum mengatakan gelombang berikutnya dari alat video AI – termasuk yang berasal dari Google dan Meta – akan menguji undang-undang publisitas dan kemiripan yang ada. Kraig Baker, pengacara media yang bekerja di Davis Wright Tremaine yang berbasis di Seattle, mengatakan bahwa masalahnya mungkin bukan karena penyalahgunaan yang disengaja oleh pengiklan, melainkan membanjirnya konten biasa atau ceroboh yang menyertakan kemiripan dengan orang-orang, yang kini dimungkinkan oleh AI.
Dia menambahkan bahwa masalah ini bisa menjadi masalah yang sangat sulit bagi tokoh masyarakat yang telah meninggal dunia yang perkebunannya tidak lagi aktif mengelola hak citra.
Ada potensi dampak yang lebih luas, seperti yang dicatat oleh kolumnis New York Times, Brian Chen: “Teknologi ini dapat mewakili akhir dari fakta visual – gagasan bahwa video dapat berfungsi sebagai rekaman realitas yang obyektif – seperti yang kita ketahui. Masyarakat secara keseluruhan harus memperlakukan video dengan skeptisisme yang sama besarnya dengan orang-orang yang memperlakukan kata-kata.”
OpenAI menerbitkan dokumen Sora 2 Safety yang menguraikan kemiripan berdasarkan persetujuan. “Hanya Anda yang memutuskan siapa yang dapat menggunakan cameo Anda, dan Anda dapat mencabut akses kapan saja,” kata perusahaan itu. “Kami juga mengambil tindakan untuk memblokir penggambaran figur publik (kecuali mereka yang menggunakan fitur cameo, tentu saja).”
Sora awalnya diluncurkan dengan kebijakan opt-out untuk karakter berhak cipta. Namun dalam pembaruannya, CEO OpenAI Sam Altman mengatakan bahwa perusahaannya sekarang berencana untuk memberikan “kontrol yang lebih terperinci kepada pemegang hak cipta atas pembuatan karakter” dan membangun model pendapatan bagi pemegang hak cipta.
Meningkatnya perhatian terhadap generator video AI menciptakan peluang bagi startup seperti Loti, sebuah perusahaan Seattle yang membantu selebriti, politisi, dan individu terkenal lainnya melindungi kemiripan digital mereka.
“Semua orang khawatir tentang bagaimana AI akan menggunakan kemiripan mereka dan mereka mencari alat dan mitra tepercaya untuk membantu memandu mereka,” kata CEO Loti Luke Arrigoni.
Dia mengatakan bisnis Loti sedang “booming saat ini,” dengan pertumbuhan pendaftaran sekitar 30 kali lipat dari bulan ke bulan. Startup ini mengumpulkan $16,2 juta awal tahun ini.
