Pada Kamis pagi, saya menghadiri panel tanya jawab dengan empat eksekutif puncak ponsel pintar Samsung. Hingga tahun 2025, Samsung adalah produsen ponsel pintar terbesar di dunia, dan berdasarkan asosiasi, pembuat kamera terbesar di dunia. Ini masih yang terbesar kedua setelah Apple.
Samsung memberi saya mikrofon terlebih dahulu. saya bertanya:
Kami melihat kesenjangan dalam masyarakat antara orang-orang yang menginginkan AI melakukan hal-hal mengesankan dengan foto dan video mereka, dan mereka yang tidak ingin AI melakukan hal tersebut. apa pun dengan foto dan video karena itu mengikis kemampuan kita untuk percaya bahwa apa yang kita lihat adalah nyata, menghancurkan konsep bukti fotografis.
Alat metadata seperti yang dimiliki C2PA sama sekali gagal membendung arus. Apakah Samsung punya ide baru dan berbeda tentang cara mencegah gambar AI mengambil alih dunia?
Keempat eksekutif Samsung tidak memiliki ide baru dan berbeda untuk dibagikan.
Saya akan memuji Won-Joon Choi, COO dan kepala R&D divisi seluler, karena tidak mengelak dari pertanyaan tersebut. Dia mengatakan kepada ruangan itu bahwa erosi realitas adalah sebuah masalah dan dia ingin memperbaikinya.
Namun dia, dan para eksekutif Samsung lainnya, menyarankan bahwa perusahaan perlu menyeimbangkan keinginan akan realitas fotografi dengan membiarkan pembeli ponsel pintar menjadi “lebih kreatif.” Mereka mengabaikan tanggung jawab tersebut dengan menyatakan bahwa ini adalah masalah industri yang luas, yang memerlukan diskusi yang lebih luas, dan menyatakan bahwa Samsung telah menyelesaikan sebagian masalah tersebut hanya dengan menambahkan tanda air pada gambar yang dihasilkan AI. Tanda air yang dapat dengan mudah dihilangkan.
Mengingat pembukaannya nanti, seorang eksekutif menyatakan bahwa perasaan kami terhadap konten yang dihasilkan AI mungkin akan lebih baik di masa depan.
Inilah beberapa jawabannya.
“Kami menyadari masalah ini, karena banyak konten yang dihasilkan oleh AI,” Choi memulai. “Di satu sisi masyarakat ingin lebih kreatif, sehingga kami yakin harus memberikan solusi agar masyarakat bisa lebih kreatif,” ujarnya. “Di sisi lain, saat ini sangat sulit untuk membedakan foto dan video asli dari yang palsu. Saya pikir ini adalah sebuah masalah, kami menyadari hal itu, dan saya pikir ini adalah masalah yang harus kita selesaikan di tingkat industri.”
“C2PA, Anda mungkin melihatnya sebagai sebuah kegagalan, namun hal ini masih cukup untuk menyediakan mekanisme jika orang ingin memvalidasi bahwa gambar dan video tersebut dibuat oleh AI. Saya pikir kita harus menyediakan mekanisme agar orang dapat menggunakannya. Saya pikir ini merupakan upaya berkelanjutan di seluruh industri untuk memecahkan masalah ini,” tambahnya.
“Saya kira jika kita melakukan upaya bersama untuk menyelesaikan masalah ini, saya yakin kita harus bisa melakukannya,” tutupnya.
Seperti rekan saya Jesse Weatherbed tulis awal pekan inikami mulai khawatir bahwa retorika “industri akan menyelesaikan masalah ini bersama-sama” dan C2PA itu sendiri, akan menggantikan tindakan nyata yang bermakna.
Mungkin merespons pelaporan jam tangan Samsung AI slop kamiEksekutif Samsung Amerika Dave Das juga mengatakan bahwa perusahaan masih mempelajari seberapa banyak AI dapat diterima saat membuat iklannya sendiri. Dia mengakui bahwa perusahaannya “baru saja mulai memanfaatkan beberapa konten AI dalam materi iklan kami, dan tanggapannya cukup jelas.”
“Kami mencoba mencari tahu tempat yang tepat untuk menggunakannya, dan bagaimana memperjelas kapan kami menggunakan konten yang dihasilkan AI vs konten yang dibuat secara alami,” kata Das.
Namun Das tetap membingkainya sebagai tindakan penyeimbangan antara prioritas bisnis, bukan tanggung jawab sosial. “Ini benar-benar bermuara pada memberikan pilihan kepada pencipta,” katanya, menunjukkan bahwa tugas Samsung adalah menemukan “keseimbangan yang tepat.”
Pagi harinya, reporter teknologi KTLA-TV DeMuro yang kaya merasakan pendirian Samsung dengan pertanyaan yang sangat berbeda. Dia bertanya apakah Samsung mungkin ingin membuatnya lebih mudah bagi pelanggan untuk menghapus tanda air AI dari foto yang dihasilkan AI.
“Jika saya membuat kartu Natal dengan semua alat menyenangkan Anda, apakah saya benar-benar ingin ada tulisan ‘konten yang dihasilkan AI?’” tanya DeMuro.
Drew Blackard, SVP manajemen produk seluler Samsung Amerika, mengambil pendekatan itu. Dia menyimpulkan dengan mengatakan bahwa “Jika kami merasa konsumen benar-benar menginginkan kemampuan untuk menghilangkan tanda air, dan ada cara lain untuk mengatasi poin pertama seputar keaslian pada saat yang sama, kami akan melakukan kedua hal tersebut dan memberikan yang terbaik dari apa yang diinginkan orang dari pengalaman tersebut.”
“Setidaknya saat ini, ada cukup banyak kekhawatiran dari konsumen mengenai keaslian, dan itulah hal utama yang telah kami selesaikan, dalam hal watermarking baik di metadata maupun pada foto itu sendiri. Tidak semua layanan melakukan hal tersebut,” katanya.
Blackard juga menyarankan agar kita melihat ke belakang suatu hari nanti dan menyadari bahwa konten yang dibuat oleh AI bukanlah sebuah masalah besar, bahwa persepsi kita mungkin berubah seiring berjalannya waktu, sama seperti persepsi terhadap konten buatan pengguna yang berubah. Saat itu, orang-orang khawatir dengan “jumlah konten yang kini mengalir ke sistem” dan betapa sistem tersebut bukan produk video profesional yang biasa mereka gunakan, katanya.
Saya bertanya-tanya apakah Samsung dan produsen ponsel pintar lainnya telah mempertimbangkan hal sebaliknya: bahwa persepsi terhadap citra yang dihasilkan AI mungkin akan menjadi seimbang lebih sedikit menguntungkan setelah orang-orang kehilangan pekerjaan mereka demi produk-produk AI yang murah, dan setelah itu menjadi jauh lebih mudah untuk berbohong, menipu, dan mencuri tanpa adanya bukti tercatat yang dapat diandalkan.
Saya ingin tahu apakah mereka telah mempertimbangkan untuk memecahkan masalah ini “di tingkat industri” sebelum mereka merusak bendungan, dan apakah persepsi akan berubah melawan Samsung karena membantu menciptakan banjir yang terjadi setelahnya.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
