Pada hari Senin, saya menonton CEO Openai Sam Altman Drink dari kotak jus mangga raksasa dan berkomentar dengan keras tentang bagaimana kotak itu setengah ukurannya. Tangkapannya: Itu tidak benar -benar Altman. Kotak jus tidak nyata. Dia tidak benar -benar berbicara. Itu adalah Deepfake yang dihasilkan oleh AI.
Bagian yang paling memprihatinkan: Saya tidak tahu apakah itu nyata atau tidak.
Openai mengumumkan Sora 2, sistem AI dan audio-generasi AI yang baru, pada hari Selasa, dan dalam briefing dengan wartawan pada hari Senin, karyawan menyebutnya potensi “momen chatgpt untuk pembuatan video.” Sama seperti ChatGPT, Sora 2 dirilis sebagai cara bagi konsumen untuk bermain -main dengan alat AI baru – yang menyertakan aplikasi media sosial dengan kemampuan untuk membuat video realistis dari orang -orang nyata yang mengatakan hal -hal nyata. Anda bisa mengatakan itu pada dasarnya aplikasi yang penuh dengan Deepfake. Sengaja
Openai percaya Sora, yang pertama kali diumumkan pada bulan Februari 2024 dan dirilis bahwa Desember, akhirnya mencapai titik keandalan relatif. Bill Peebles, kepala Sora Openai, membandingkan iterasi awal sistem generasi video dengan “mesin slot” di mana “Anda akan menempatkan prompt dan semacam menyilangkan jari Anda bahwa apa yang Anda dapatkan memiliki kemiripan dengan apa yang Anda minta.” Model baru, katanya, “jauh lebih baik dalam hal setia pada bagaimana pengguna mendorongnya.”
Selama briefing, tim di belakang Sora 2 mengatakan mereka telah mengerjakannya selama setidaknya 20 bulan. Perubahan langkah terbesar dalam produk ini adalah sekarang dapat menghasilkan audio yang disinkronkan dengan video – bukan hanya latar belakang soundscape dan efek suara, tetapi juga dialog yang berfungsi untuk berbagai bahasa. Itu tersedia melalui Sora.com“Dengan Sora 2 Pro tersedia untuk pengguna ChatGPT Pro,” dan pengembang akan menerima akses API “segera.”
Aplikasi sosialnya juga disebut “Sora” Dan sekarang tersedia melalui iOS untuk pengguna di AS dan Kanada dengan dasar undangan saja. Lebih banyak negara akan mengikuti, dan setiap pengguna akan menerima empat undangan tambahan untuk dibagikan dengan teman.
Dalam rilisnya, Openai mengatakan Sora 2 “menggerakkan kita lebih dekat ke simulator dunia yang berguna.” Karyawan Openai mengatakan kepada wartawan bahwa sistem baru juga jauh lebih pintar di fisika. Kata Peebles, “Anda dapat secara akurat melakukan backflip di atas papan paddleboard pada badan air, dan semua dinamika fluida dan daya apung dimodelkan secara akurat. Ini benar -benar perubahan fungsi langkah dalam hal kecerdasan fisika yang mendasari yang dimiliki model ini.”
Tapi itu juga bisa menjadi mimpi buruk ketika datang ke Deepfakes, yang sudah menjadi masalah yang tersebar luas.
Aplikasi media sosial Sora yang menyertainya sangat mirip dengan Tiktok, dengan halaman “untuk Anda” dan antarmuka dengan gulungan vertikal. Tapi itu termasuk fitur yang disebut “Cameos,” di mana orang dapat memberikan izin aplikasi untuk menghasilkan video dengan kemiripan mereka. Dalam sebuah video, yang harus direkam di dalam aplikasi iOS, Anda diminta untuk menggerakkan kepala Anda ke arah yang berbeda dan berbicara urutan nomor tertentu. Setelah diunggah, rupa Anda dapat di -remix (termasuk dalam interaksi dengan orang lain yang mirip) dengan menggambarkan video dan audio yang diinginkan dalam prompt teks.
Karyawan Openai mengatakan kepada wartawan selama pengarahan hari Senin bahwa Sora telah mengganti pesan teks, emoji, dan catatan suara untuk mereka, untuk menjadi salah satu cara terbaik yang mereka komunikasikan di antara mereka sendiri. Dalam briefing, mereka mendemonstrasikan iklan palsu, percakapan palsu antara dua orang, klip berita palsu, dan banyak lagi, semuanya dibuat dengan Sora 2 dan dikonsumsi melalui pengguliran melalui aplikasi media sosial.
Beberapa klip dihasilkan secara langsung saat kami menyaksikan, dan mereka sangat realistis-tidak ada lagi tangan enam jari (yang bisa saya lihat, setidaknya). Kecuali jika video tersebut berisi materi pelajaran yang fantastik, seperti contoh kotak jus raksasa, mata yang tidak terlatih mungkin tidak dapat mengatakan bahwa video-video ini dihasilkan AI-dan jika Anda tahu, itu kemungkinan akan didasarkan hanya pada perasaan, atau getaran, dari sesuatu yang merasa tidak enak.
Aplikasi Sora memungkinkan Anda memilih siapa yang dapat membuat akting cemerlang dengan kemiripan Anda: hanya diri Anda sendiri, orang yang Anda setujui, bersama, atau “semua orang.” Karyawan Openai mengatakan bahwa pengguna adalah “pemilik bersama” akting cemerlang ini dan dapat mencabut akses pembuatan orang lain atau menghapus video yang berisi rupa yang dihasilkan AI kapan saja. Dimungkinkan juga untuk memblokir seseorang di aplikasi. Anggota tim juga mengatakan bahwa pengguna dapat melihat konsep akting cemerlang yang dilakukan orang lain sebelum mereka diposting, dan bahwa di masa depan mereka dapat mengubah pengaturan sehingga orang yang ditampilkan dalam cameo harus menyetujuinya sebelum memposting – tetapi bukan itu masalahnya.
Dalam rilisnya, Openai juga menunjuknya kontrol orang tua Untuk produk-produknya, menulis bahwa opsi termasuk menyalakan “umpan yang tidak dipersonalisasi, memilih apakah akan membiarkan anak remaja mereka mengirim dan menerima pesan langsung, dan opsi untuk mematikan umpan konten yang tidak terputus saat menggulir.”
Seperti Tiktok, aplikasi Sora tampaknya dibangun untuk menghasilkan tren media sosial, dengan kemampuan untuk “membuat ulang” video lain. Saat ini menghasilkan video 10 detik, tetapi pengguna pro bisa segera mendapatkan hingga 15 detik di web, dengan kemampuan yang sama datang ke ponsel nanti. Karyawan mengatakan bahwa itu mungkin untuk membuat video yang lebih panjang, tetapi karena itu adalah tugas komputasi yang berat, mereka masih mencari tahu bagaimana mereka akan menanganinya.
Untuk semua orang, tugas terbesar dengan Sora 2 dan aplikasi Sora mungkin mencari tahu bagaimana memutuskan apa yang nyata. Openai menulis dalam rilis bahwa “setiap video yang dibuat dengan Sora memiliki beberapa sinyal yang menunjukkan itu dihasilkan AI,” seperti metadata, tanda air yang bergerak pada video yang diunduh dari Sora.com atau aplikasi Sora, dan “alat deteksi internal yang tidak ditentukan untuk membantu menilai apakah video atau audio tertentu dibuat oleh produk kami.” ; Tetapi solusi tampaknya hampir tak terhindarkan, jika sejarah baru -baru ini adalah panduan apa pun – seperti halnya informasi yang salah dengan potensi untuk menyebar seperti api.
Adapun Deepfake dari tokoh pemerintah, selebriti, dan tokoh publik lainnya? “Tokoh -tokoh publik tidak dapat dihasilkan di Sora kecuali mereka telah mengunggah cameo sendiri dan diberikan persetujuan untuk digunakan,” tulis Openai dalam rilis. “Hal yang sama berlaku untuk semua orang: jika Anda belum mengunggah cameo, rupa Anda tidak dapat digunakan.” Karyawan Openai juga mengatakan selama briefing bahwa “tidak mungkin untuk menghasilkan” konten X-rated atau “ekstrem” melalui platform, dan bahwa perusahaan saat ini tidak mengizinkan teks bentuk bebas yang diminta untuk angka publik yang dihasilkan AI. Mereka juga mengatakan bahwa perusahaan memoderasi output video untuk potensi pelanggaran kebijakan dan masalah hak cipta.
Tetapi orang -orang telah mengatasi aturan semacam itu di masa lalu, berkali -kali. Tahun lalu, a Insinyur Microsoft memperingatkan Bahwa generator gambar AI mengabaikan hak cipta dan menghasilkan citra seksual dan kekerasan dengan solusi sederhana. »Ai’s Grok Video nude Deepfake yang baru -baru ini dihasilkan dari Taylor Swift dengan dorongan minimal. Dan bahkan untuk Openai, karyawan mengatakan kepada wartawan bahwa perusahaan sedang membatasi angka publik untuk “peluncuran ini,” tampaknya tidak mengesampingkan kemampuan untuk membuat video seperti itu di masa depan.
Pada hari Senin, The Wall Street Journal melaporkan bahwa generasi sora openai akan menampilkan materi yang dilindungi hak cipta Kecuali jika pemegang hak “memilih keluar” karena pekerjaan mereka muncul di platform. Kapan The Verge Ditanya tentang masalah ini selama pengarahan hari Senin dengan Openai, karyawan tampaknya menghindari pertanyaan, menunjuk pada kebijakan generasi gambar perusahaan yang ada dan mengatakan Sora akan menjadi perpanjangan dari itu. Mereka juga mengatakan bahwa beberapa opt-out dari kebijakan hak cipta generasi gambar akan terbawa dan bahwa perusahaan akan membangun lebih banyak kontrol.
Ikuti topik dan penulis Dari cerita ini untuk melihat lebih banyak seperti ini di umpan beranda pribadi Anda dan untuk menerima pembaruan email.
