Saya telah jatuh ke dalam slip Sora yang licin

Versi anime Yesus Kristus membalik meja. Karyawan Openai tampil di Hamilton kostum. Jangkar berita mendiskusikan sebuah cerita di televisi. Seorang pria melakukan tarian Tiktok yang haus. SAM ALTMAN – Mencuri GPU di CCTV, mendengarkan nada bisnis, menangis.

Begitulah isi feed saya pada sora, Aplikasi Media Sosial Baru Openai untuk video yang dihasilkan AI. Perusahaan merilis aplikasi iOS pada hari Selasa Dengan kemampuan untuk membuat video 10 detik dari hampir semua hal yang dapat Anda impikan, termasuk “akting cemerlang,” atau video yang menampilkan diri Anda yang dihasilkan AI sendiri dan siapa pun yang menyetujui Anda menggunakan kemiripan mereka. Karyawan Openai menyebut Sora sebagai “momen chatgpt untuk pembuatan video” dalam briefing dengan wartawan awal pekan ini. Pada hari Jumat, Sora menduduki puncak daftar untuk aplikasi gratis teratas di App Store Apple.

Sudah, penerimaan telah beragam. Banyak virus Posting Menyandingkan dengan sains tinggi perusahaan dan tujuan terkait penelitian dan rilis saat ini, dengan penggalian menjadi sangat populer sehingga Altman sendiri harus merespons. Banyak yang menyatakan keprihatinan bahwa video ultra-realistis yang menggabungkan orang sungguhan adalah mimpi buruk informasi yang salah. Yang lain hanya menyebutnya mesin slop AI.

Beberapa karyawan OpenAI telah memposting secara terbuka tentang kekhawatiran mereka juga. John Hallman, yang bekerja di pra-pelatihan di openai, menulis dalam sebuah posting“Saya tidak akan menyangkal bahwa saya merasa khawatir ketika saya pertama kali mengetahui bahwa kami merilis Sora 2. Begitulah, saya pikir tim melakukan pekerjaan terbaik mutlak yang mungkin mereka bisa dalam merancang pengalaman positif.” Boaz Barak, anggota staf teknis Openai, menulis di x Bahwa dia merasakan “campuran kekhawatiran dan kegembiraan. Sora 2 secara teknis menakjubkan tetapi terlalu dini untuk memberi selamat pada diri kita sendiri untuk menghindari perangkap aplikasi media sosial lainnya dan Deepfake.” Dia mengatakan bahwa meskipun dia senang dengan beberapa perlindungan, “tetapi seperti biasa, ada batasan seberapa banyak yang bisa kita ketahui sebelum suatu produk digunakan di dunia nyata.”

Tetapi dibandingkan dengan aplikasi “sosial” AI lainnya seperti getaran Meta, Sora memiliki setidaknya kait yang menarik untuk sementara: kemampuan untuk meme-meme diri Anda dan teman-teman Anda. Openai tampaknya telah memperhatikan bahwa tren AI paling populer melibatkan mengubah diri Anda – menjadi a Karakter Studio Ghiblike a semacam boneka membosankan. Sekarang, ini membangun seluruh aplikasi di sekitar ini. Dan popularitas Sora tampaknya telah melampaui getaran sejauh ini; Beberapa orang menggulirnya seperti Tiktok, dilihat dari anekdot online. Pertanyaannya adalah apakah tren ini dapat secara bermakna menggantikan orang sungguhan yang mengekspresikan pendapat mereka yang sebenarnya menggunakan suara mereka yang sebenarnya dalam pengaturan nyata, setelah kebaruan awal Altman mengeong dengan kostum kucing seluruh tubuh usang.

Ketika saya mendaftar untuk Sora, aplikasi memberi saya penasihat konten, dengan mengatakan, “Anda akan memasuki dunia kreatif konten yang dihasilkan AI.” Itu juga memberi tahu saya, “Kami dapat melatih konten Anda dan menggunakan kenangan chatgpt untuk rekomendasi, semuanya dapat dikendalikan dalam pengaturan.”

Sejauh ini, feed saya pada dasarnya terdiri dari karyawan openai yang memparodikan diri dan perusahaan, banyak video instruksional Deepfake tentang cara menggunakan sora, dan beberapa video hewani. Volume orang -orang Openai belum tentu mengejutkan – mereka telah menggunakan aplikasi untuk sementara waktu, dan mengundang ke publik masih dibatasi. Tapi itu masih mengejutkan betapa sulitnya menemukan hal lain.

Namun, tidak peduli bagaimana perasaan orang tentang Sora sejauh ini, konsensus yang luas tampaknya adalah bahwa persepsi kita tentang apa yang nyata dan apa yang tidak akan sama sekali tidak akan sama.

Saya dengan enggan menyelesaikan aliran pendaftaran yang memungkinkan Sora untuk menghasilkan video menggunakan rupa saya sendiri, yang melibatkan menggerakkan kepala saya dari sisi ke sisi dan mengatakan urutan tiga angka. Ketika saya pertama kali mencoba membuat video diri saya, aplikasi mengatakan kepada saya bahwa itu di bawah “beban berat” dan untuk “mencoba lagi nanti.” Kemudian ketika saya meminta video diri saya “berlari melalui padang rumput,” dikatakan itu adalah “pelanggaran konten” dan tidak dapat dilakukan, menambahkan bahwa “konten ini mungkin termasuk materi sugestif atau bersemangat.” Ketika saya menukar kata “berjalan” untuk “bermain -main,” meskipun, aplikasi datang.

(Satu catatan hati -hati: Jika Anda mendaftar untuk Sora, saat ini tidak mungkin untuk menghapus akun Anda tanpa juga menghapus akun chatgpt Anda – dan Anda tidak akan dapat mendaftar dengan alamat email atau nomor telepon yang sama lagi. Openai mengatakan itu sedang mengerjakan perbaikan.)

Penampilan diri saya yang dihasilkan AI sangat akurat untuk sebagian besar video-meskipun suara saya tidak aktif, dan wajah pada awalnya tampak sedikit bengkok-dan obrolan kelompok saya memiliki pikiran yang beragam. “Itu liar. Kenapa terlihat sepertimu?” kata seorang teman. Yang lain berkata, “Pada akhirnya sepertinya Anda … Saya masih belum mengerti mengapa ini ada. Siapa yang meminta ini?” Anggota terakhir obrolan membebani, “Benci segalanya tentang ini … memicu sangat.”

Banyak karyawan Openai, dan Altman sendiri, telah memilih pengaturan dalam Sora yang memungkinkan siapa saja untuk membuat video dengan kemiripan mereka. Aplikasi ini memungkinkan Anda memilih siapa yang dapat membuat “akting cemerlang” dengan rupa Anda: hanya diri Anda sendiri, orang yang Anda setujui, bersama, atau semua orang.

Selama briefing dengan wartawan pada hari Senin, dan dalam rilis pada hari Selasa, Openai membuat banyak janji, termasuk bahwa hal itu membatasi pada tokoh -tokoh publik (kecuali mereka telah memberikan penggunaan kemiripan mereka) untuk “peluncuran ini.” Pada The Vergesedikit pengujian menunjukkan itu sangat bersemangat – ketika kami mencoba membuat “wanita kongres muda,” itu menolak sampai kami bertukar “politisi” generik, meskipun ketika kami mencoba menghasilkan “eksekutif teknologi yang sukses mengenakan kacamata dan turtleneck hitam,” mirip dengan Steve Jobs, itu berhasil (meskipun tidak dengan wajah pekerjaan). Tetapi dua klaim besar Openai lainnya tampaknya gagal hanya dalam waktu 24 jam: gagasan bahwa perusahaan akan dapat tetap berada di depan pelanggaran hak cipta dan gagasan bahwa itu akan dapat mengontrol aliran potensial informasi yang potensial yang dibuat pada aplikasi.

Orang -orang telah menandai berbagai potensi pelanggaran hak cipta dan masalah lainnya dengan Sora. 404 Media melaporkan melihat Nazi Spongebobs dan Pikachus kriminal di aplikasi, dan satu pengguna x contoh yang diposting mengatakan mereka dapat menghasilkan karakter dari Avatar Dan Legenda Zeldaserta Batman dan Baby Yoda. Selama pengujian saya, saya melihat video Rick and Morty, tetapi ketika saya mencoba untuk mengelilingi aturan hak cipta untuk menghasilkan putri yang tampak seperti Elsa dari Beku atau superhero berpakaian seperti Spider-Manpermintaan saya ditandai untuk pelanggaran konten.

Bahkan sebagai seorang reporter AI, sulit bagi saya untuk membedakan antara AI dan kenyataan ketika datang ke beberapa video hiper-realistis Altman dan karyawan Openai yang berkembang biak di Sora. Openai menulis dalam rilis awal pekan ini bahwa “setiap video yang dibuat dengan Sora memiliki beberapa sinyal yang menunjukkan itu dihasilkan AI,” seperti metadata dan tanda air yang bergerak pada klip yang diunduh. Tetapi tanda air itu dapat dihilangkan untuk pengguna chatgpt pro Sora.comJuru bicara openai Leah Anise memberi tahu The Verge dalam sebuah pernyataan pada hari Rabu.

Rekaman layar juga tidak mungkin dimungkinkan dalam aplikasi. Tapi dalam pengujian saya sendiri, saya menemukan bahwa kedua tangkapan layar Dan Rekaman suara dimungkinkan – artinya akan sangat mudah untuk mewariskan suara seseorang sebagai nyata atau bahkan video screengrab dari mereka melakukan sesuatu yang seharusnya tidak mereka lakukan. Sora Watermark pada konten yang diunduh juga tidak terlalu besar. Saya menemukan bahwa Anda dapat merekam layar dengan audio dan video selama Anda menonton tautan video di browser web di ponsel, dan pada awalnya saya bahkan tidak melihat tanda air yang ditambahkan. Dan staf di The Verge telah melihat banyak video yang seolah -olah dari Sora yang beredar di platform seperti X tanpa tanda air. Dalam pencarian Google sepintas, saya menemukan sejumlah metode untuk menghilangkan tanda air seperti itu menggunakan alat AI lainnya. Jika sejarah adalah panduan apa pun, solusi untuk pagar pembatas yang telah ditetapkan Openai tampaknya tak terhindarkan – terutama di zaman informasi yang salah. Seperti yang kami tulis pada hari RabuA Insinyur Microsoft memperingatkan Tahun lalu bahwa generator AI Image-L perusahaan mengabaikan hak cipta dan menghasilkan citra seksual dan kekerasan dengan sedikit atau tanpa usaha, dan »Ai’s Grok Video telanjang Deepfake baru -baru ini menghasilkan Taylor Swift.

Sejauh ini, daya tarik Sora turun ke satu hal: menyenangkan untuk membuat video bodoh yang menampilkan teman -teman Anda (dan, bagi banyak orang, tampaknya Sam Altman). Tapi berapa lama itu benar-benar dapat mendorong peniru tiktok-dan apakah itu fondasi yang cukup baik untuk seluruh aplikasi media sosial yang dihasilkan AI?