Penasihat teknologi utama Biden mengatakan AI adalah ‘masalah masa kini’

Hari ini, saya berbincang dengan Arati Prabhakar, direktur Kantor Kebijakan Sains dan Teknologi Gedung Putih. Itu adalah posisi setingkat kabinet, di mana dia bekerja sebagai penasihat utama sains dan teknologi untuk Presiden Joe Biden. Dia juga wanita pertama yang memegang posisi tersebut, yang dia mengambil alih pada tahun 2022.

Arati memiliki sejarah panjang dalam bekerja di pemerintahan: ia adalah direktur National Institute of Standards and Technology, dan ia mengepalai Defense Advanced Research Projects Agency (DARPA) selama lima tahun di masa pemerintahan Obama. Selama itu, ia menghabiskan lebih dari satu dekade bekerja di beberapa perusahaan Silicon Valley dan sebagai kapitalis ventura, sehingga ia memiliki pengalaman luas di sektor publik dan swasta.

Arati dan timnya yang beranggotakan sekitar 140 orang di OSTP bertanggung jawab untuk memberi nasihat kepada presiden mengenai perkembangan besar dalam sains serta inovasi besar dalam teknologi, yang sebagian besar berasal dari sektor swasta. Itu berarti mengarahkan upaya regulasi, investasi pemerintah, dan menetapkan prioritas seputar proyek-proyek besar seperti Biden kanker moonshot dan memerangi perubahan iklim.

Anda akan mendengar Arati dan saya berbicara tentang ayunan pendulum antara R&D sektor publik dan swasta — bagaimana hal itu memengaruhi apa yang didanai dan apa yang tidak dan bagaimana dia mengelola ketegangan antara kebutuhan industri yang sangat kapitalis dan kepentingan publik pemerintah federal.

Kami juga banyak berbicara tentang AI, tentu saja. Arati adalah orang pertama yang menunjukkan ChatGPT kepada Presiden Biden; dia punya cerita lucu tentang bagaimana mereka menyuruhnya menulis lirik lagu dengan gaya Bruce Springsteen. Namun, OSTP kini juga membantu memandu pendekatan Gedung Putih terhadap keamanan dan regulasi AI, termasuk perintah eksekutif AI Biden musim gugur lalu. Arati dan saya berbicara panjang lebar tentang bagaimana dia secara pribadi menilai risiko yang ditimbulkan oleh AI, khususnya seputar deepfake, dan apa dampak hubungan perusahaan teknologi besar yang sering kali mementingkan diri sendiri dengan regulasi terhadap lanskap AI saat ini.

Bidang minat besar lainnya bagi Arati adalah semikonduktor. Ia meraih gelar doktor dalam fisika terapan, dengan tesis tentang material semikonduktor, dan saat ia mulai bekerja pada tahun 2022, Biden baru saja menandatangani Undang-Undang CHIPS. Saya ingin tahu apakah subsidi pemerintah senilai $52 miliar untuk membawa kembali produksi chip ke Amerika mulai menunjukkan hasil, dan Arati banyak bicara tentang kekuatan undang-undang semacam ini.

Satu catatan sebelum kita mulai: Saya berbincang dengan Arati bulan lalu, hanya beberapa hari sebelum debat presiden pertama dan setelahnya, yang menyita seluruh berita. Jadi, Anda akan mendengar kami banyak berbicara tentang agenda Presiden Biden dan catatan kebijakan Gedung Putih tentang AI, di antara topik-topik lainnya, tetapi Anda tidak akan mendengar apa pun tentang presiden, usianya, atau kampanye presiden.

Oke, Direktur OSTP Arati Prabhakar. Mari kita mulai.

Transkrip ini telah diedit sedikit untuk panjang dan kejelasannya.

Arati Prabhakar. Anda adalah direktur Kantor Kebijakan Sains dan Teknologi Gedung Putih dan penasihat sains dan teknologi bagi presiden. Selamat datang di Dekoder.

Senang sekali bisa bersamamu.

Saya sangat bersemangat untuk berbicara dengan Anda. Ada banyak kebijakan sains dan teknologi yang perlu dibicarakan saat ini. Kita juga memasuki musim pemilihan yang tampaknya akan sangat kontroversial, di mana saya pikir beberapa ide ini akan diperebutkan, jadi saya ingin berbicara tentang apa yang dipolitisasi, apa yang tidak, dan ke mana arah pembicaraan kita. Namun, mari kita mulai dari awal. Bagi pendengar, apa itu Kantor Kebijakan Sains dan Teknologi?

Kami adalah kantor Gedung Putih dengan dua peran. Pertama, untuk memberikan saran atau bantuan apa pun yang dibutuhkan presiden terkait sains dan teknologi, yang ada di mana-mana. Itu bagian pertama. Bagian kedua adalah memikirkan cara untuk memelihara seluruh sistem inovasi di negara ini, khususnya komponen federal, yaitu R&D yang dilakukan di puluhan lembaga federal. Sebagian untuk misi publik. Sebagian besar menjadi dasar bagi semua hal lain dalam ekologi inovasi di negara ini. Itu bagian besar dari pekerjaan harian kami. Dan saat kami melakukannya, tentu saja yang kami kerjakan adalah bagaimana kami memecahkan masalah besar di zaman kita, bagaimana kami memastikan bahwa kami menggunakan teknologi dengan cara yang membangun nilai-nilai kami.

Itu tugas yang besar. Ketika orang berpikir tentang pembuatan kebijakan saat ini, saya pikir ada banyak fokus pada Kongres atau mungkin badan legislatif tingkat negara bagian. Bagian mana dari teka-teki kebijakan yang Anda miliki? Apa yang paling dapat Anda pengaruhi secara langsung?

Saya akan memberi tahu Anda bagaimana saya memikirkannya. Alasan saya begitu gembira ketika presiden bertanya apakah saya akan melakukan pekerjaan ini beberapa tahun yang lalu adalah karena pengalaman pribadi saya bekerja di bidang R&D dan teknologi serta inovasi dari berbagai sudut pandang yang berbeda. Saya menjalankan dua bagian yang sangat berbeda dari R&D federal. Di sela-sela itu, saya menghabiskan 15 tahun di Silicon Valley di beberapa perusahaan, tetapi sebagian besar dari itu adalah modal ventura tahap awal. Saya memulai sebuah lembaga nirlaba.

Yang saya pelajari dari semua itu adalah bahwa kita melakukan hal-hal besar di negara ini, tetapi kita semua harus melakukannya bersama-sama — kemajuan besar yang telah kita buat dalam revolusi informasi dan dalam memerangi perubahan iklim serta memajukan kesehatan Amerika. Kita tahu betapa menakjubkannya R&D untuk semua yang telah kita lakukan pada abad lalu, tetapi abad ini memiliki beberapa tantangan yang berbeda. Bahkan seperti apa keamanan nasional itu berbeda saat ini karena geopolitiknya berbeda. Apa artinya menciptakan peluang di setiap bagian negara ini berbeda saat ini, dan kita memiliki tantangan seperti perubahan iklim yang tidak menjadi fokus orang-orang pada abad lalu, meskipun sekarang kita berharap mereka menjadi fokus.

Bagaimana Anda mengarahkan inovasi pada aspirasi besar saat ini? Itulah prinsip pengorganisasian, dan begitulah cara kita menetapkan prioritas di mana kita memfokuskan perhatian dan di mana kita bekerja untuk mengarahkan inovasi ke arah yang benar dan kemudian memulainya.

Apakah itu lensa: inovasi dan pemikiran ke depan? Bahwa Anda perlu membuat beberapa kebijakan sains dan teknologi, dan semua kebijakan itu harus diarahkan pada apa yang akan datang? Atau apakah Anda berpikir tentang apa yang sedang terjadi saat ini?

Menurut saya, tujuan R&D adalah membantu menciptakan pilihan sehingga kita dapat memilih masa depan yang benar-benar kita inginkan dan mewujudkannya. Saya pikir itu harus menjadi tujuan utama. Pekerjaan diselesaikan hari ini, dan diselesaikan dalam konteks apa yang sedang terjadi saat ini. Dalam konteks geopolitik saat ini. Dalam konteks teknologi canggih saat ini, termasuk AI.

Ketika saya berpikir tentang pemerintah federal, ini adalah birokrasi yang rumit dan besar. Tombol apa yang bisa Anda tekan? Apakah Anda bisa menghabiskan uang untuk proyek penelitian? Apakah Anda bisa memberi tahu orang-orang untuk menghentikan sesuatu?

Tidak, saya tidak melakukan itu. Saat saya menjalankan DARPA [Defense Advanced Research Projects Agency] atau ketika saya memimpin National Institute of Standards and Technology (NIST) di Departemen Perdagangan, saya memimpin sebuah badan, jadi saya memiliki posisi yang selaras, saya memiliki anggaran, saya memiliki banyak tanggung jawab, dan saya senang bekerja dengan orang-orang hebat dan menyelesaikan hal-hal besar. Ini adalah pekerjaan yang berbeda. Ini adalah pekerjaan staf presiden yang pertama dan terutama, jadi ini adalah pekerjaan tentang melihat keseluruhan sistem.

Anggaran kami sebenarnya sangat kecil, tetapi kami khawatir tentang gambaran keseluruhannya. Jadi, apa artinya itu sebenarnya? Misalnya, membantu presiden menemukan orang-orang hebat untuk memimpin organisasi R&D federal di seluruh pemerintahan. Itu berarti mengawasi perubahan yang terjadi yang perlu menginformasikan cara kami melakukan penelitian. Keamanan penelitian merupakan tantangan saat ini yang, karena geopolitik dan beberapa masalah dengan negara-negara yang menjadi perhatian, akan berdampak pada cara universitas melakukan penelitian. Itu adalah sesuatu yang akan kami tangani dengan bekerja sama dengan semua lembaga yang bekerja dengan universitas.

Itulah jenis masalah lintas sektor. Dan kemudian ketika ada keharusan strategis — apakah itu mengendalikan AI untuk memastikan kita melakukannya dengan benar bagi rakyat Amerika, apakah itu mencari tahu apakah kita melakukan pekerjaan yang kita butuhkan untuk mendekarbonisasi ekonomi dengan cukup cepat untuk memenuhi krisis iklim, atau apakah kita melakukan hal-hal di semua hal yang diperlukan untuk memangkas tingkat kematian akibat kanker hingga setengahnya secepat presiden memukul meja dengan kanker moonshot —kita duduk di tempat di mana kita dapat melihat semua kepingan teka-teki, memastikan bahwa semuanya bekerja sama, dan memastikan bahwa kesenjangannya ditangani, baik oleh presiden maupun oleh Kongres.

Saya ingin menarik garis di sini karena menurut saya kebanyakan orang berpikir bahwa orang-orang yang bekerja di bidang teknologi di pemerintahan sebenarnya memengaruhi fungsi pemerintahan itu sendiri, seperti bagaimana pemerintah dapat menggunakan teknologi. Peran Anda tampaknya sedikit lebih eksternal. Ini sebenarnya adalah kebijakan tentang bagaimana teknologi akan dikembangkan dan digunakan di seluruh industri swasta atau pemerintah, dari waktu ke waktu secara eksternal.

Saya akan menyebutnya integratif karena kami sangat beruntung memiliki teknolog hebat yang membangun dan menggunakan teknologi di dalam pemerintahan. Itulah yang ingin kami dukung dan pastikan terjadi. Sebagai contoh, salah satu tanggung jawab kami untuk pekerjaan AI adalah lonjakan bakat AI untuk mendapatkan bakat AI yang tepat ke dalam pemerintahan, yang sekarang sedang terjadi. Sangat menarik untuk melihatnya. Namun, pekerjaan harian kami bukanlah itu. Sebenarnya, kami memastikan bahwa perusahaan inovasi itu tangguh dan melakukan apa yang benar-benar perlu dilakukan.

Bagaimana tim Anda terstruktur? Anda tidak menghabiskan banyak uang, tetapi Anda memiliki area fokus yang berbeda. Bagaimana menurut Anda tentang penataan area fokus tersebut, dan apa yang dihasilkannya?

Tim kebijakan, dan mereka diorganisasikan secara khusus berdasarkan aspirasi besar yang menjadi tujuan R&D dan inovasi. Kami memiliki tim yang berfokus pada hasil kesehatan, di antara hal-hal lain, yang menjalankan Cancer Moonshot milik presiden. Kami memiliki tim yang disebut Inovasi Industri yang berfokus pada fakta bahwa kami sekarang memiliki, dengan presiden ini, strategi industri yang sangat kuat yang merevitalisasi manufaktur di Amerika Serikat, membangun teknologi dan sistem energi bersih, yang membawa kembali manufaktur semikonduktor terdepan ke Amerika Serikat. Jadi, itu adalah kantor yang berfokus pada R&D dan semua gambaran besar revitalisasi industri yang sedang berlangsung.

Kami memiliki tim lain yang berfokus pada iklim dan lingkungan, dan tim itu menangani hal-hal seperti memastikan kami dapat mengukur gas rumah kaca dengan tepat. Bagaimana kami menggunakan alam untuk melawan perubahan iklim? Lalu, kami memiliki tim yang berfokus pada keamanan nasional seperti yang Anda harapkan, dan masing-masing tim tersebut adalah tim kebijakan. Di masing-masing tim tersebut, pemimpin organisasi tersebut biasanya adalah orang yang sangat berpengalaman yang sering bekerja di dalam dan di luar pemerintahan. Mereka tahu cara kerja pemerintah, tetapi mereka juga benar-benar memahami apa yang ingin dicapai negara ini, dan mereka menyatukan semua bagiannya. Dan sekali lagi, di mana ada kesenjangan, di mana ada kebijakan baru yang perlu dimajukan, itulah pekerjaan yang dilakukan tim kami.

Apakah Anda membuat rekomendasi kebijakan langsung? Jadi, tim lingkungan berkata, “Baiklah, setiap perusahaan di negara ini telah menjanjikan satu juta pohon. Itu bagus. Kita harus memberi insentif untuk perilaku lain juga, lalu berikut rencana untuk melakukannya.” Atau apakah lebih luas dari itu?

Cara kebijakan diimplementasikan dapat berupa berbagai hal, mulai dari lembaga yang mengambil tindakan sesuai hukum yang berlaku, dengan sumber daya yang ada. Kebijakan dapat berupa perintah eksekutif yang menyatakan, “Ini masalah mendesak. Kita perlu mengambil tindakan.” Sekali lagi, kebijakan ini berdasarkan hukum yang berlaku, tetapi kepala eksekutif, presiden, yang menyatakan, “Kita perlu mengambil tindakan.” Kebijakan dapat dimajukan melalui proposal legislatif tempat kita bekerja sama dengan Kongres untuk membuat sesuatu bergerak maju. Kebijakan ini tentang apa yang diperlukan untuk mendapatkan apa yang benar-benar kita butuhkan, dan sering kali kita mulai dengan tindakan di dalam cabang eksekutif, lalu berkembang dari sana.

Seberapa besar kantor Anda saat ini?

Kami berjumlah sekitar 140 orang. Hampir semua tim kami adalah orang-orang yang datang dari berbagai daerah di sini. pemerintah, terkadang dari lembaga nirlaba di luar pemerintah atau universitas. Organisasi ini dirancang seperti itu karena, sekali lagi, bersifat integratif. Anda harus memiliki semua perspektif yang berbeda ini agar dapat melakukan pekerjaan ini secara efektif.

Anda telah memegang banyak peran. Anda memimpin DARPA. Itu adalah peran yang sangat eksekutif dalam pemerintahan. Anda harus membuat keputusan. Anda pernah menjadi VC. Apa kerangka kerja Anda saat ini untuk membuat keputusan? Bagaimana pendapat Anda tentang hal itu?

Pertanyaan pertama adalah apa yang dibutuhkan negara ini dan apa yang menjadi perhatian presiden? Sekali lagi, banyak alasan mengapa saya sangat gembira memiliki kesempatan ini… saat saya datang, Presiden Biden sudah mulai bekerja. Saya mewawancarainya hampir tepat dua tahun lalu — musim panas tahun 2022. Saat itu, sudah sangat jelas, nomor satu, bahwa ia sangat menghargai sains dan teknologi karena ia sangat peduli tentang bagaimana kita membangun masa depan negara ini. Ia memahami bahwa sains dan teknologi adalah bahan utama untuk melakukan hal-hal besar. Nomor dua, ia benar-benar mengubah infrastruktur: energi bersih, mengatasi krisis iklim, menangani manufaktur semikonduktor. Itu sangat menarik untuk dilihat setelah sekian dekade. Saya sudah menunggu untuk melihat hal-hal itu terjadi. Itu benar-benar memberi saya banyak harapan.

Secara keseluruhan, saya melihat prioritasnya benar-benar mencerminkan apa yang saya pikir sangat penting bagi negara kita untuk menghadapi masa depan secara efektif. Itulah yang mendorong penentuan prioritas. Maksud saya, seperti pekerjaan lain di mana Anda memimpin orang untuk mencoba menyelesaikan hal-hal besar dan sulit. Tidak mengherankan, setiap tahun, saya membuat daftar hal-hal yang ingin kami selesaikan, dan sepanjang tahun, kami bekerja untuk melihat kemajuan seperti apa yang telah kami buat, dan kami sangat berhasil dalam beberapa hal, tetapi terkadang kami gagal atau dunia berubah atau kami harus mencoba lagi. Namun secara keseluruhan, saya pikir kami membuat kemajuan besar, dan itulah sebabnya saya masih terus bekerja.

Ketika Anda pikirkan tentang tempat-tempat di mana Anda telah meraih kesuksesan besar, apa saja kemenangan terbesar yang Anda kira telah Anda peroleh dalam masa jabatan Anda?

Dalam peran ini, saya akan menceritakan apa yang terjadi. Saat saya mulai bekerja pada bulan Oktober 2022, ChatGPT mulai bekerja pada bulan November 2022. Tidak mengherankan, saya akan mengatakan bahwa sebagian besar tahun pertama saya dibajak oleh AI, tetapi dengan cara yang sebaik mungkin. Pertama, karena menurut saya ini adalah momen penting bagi masyarakat untuk menghadapi semua implikasi AI, dan kedua, karena, saat saya melakukan pekerjaan ini, saya pikir banyak alasan mengapa AI menjadi teknologi yang sangat penting dalam kehidupan kita saat ini adalah karena cakupannya yang luas. Salah satu artinya adalah bahwa AI jelas merupakan pengganggu bagi setiap ambisi nasional besar lainnya yang kita miliki. Jika kita melakukannya dengan benar, saya pikir AI dapat menjadi akselerator besar untuk hasil kesehatan yang lebih baik, untuk mengatasi krisis iklim, untuk semua hal yang benar-benar harus kita lakukan.

Dalam hal itu, meskipun sebagian besar fokus pribadi saya adalah pada masalah AI dan masih demikian, hal itu terus berlanjut. Sementara itu, saya pikir kami terus bekerja dengan tim saya yang hebat. Kami terus membuat kemajuan yang baik pada semua hal lain yang benar-benar kami pedulikan.

Jangan khawatir, saya akan mengajukan banyak pertanyaan tentang AI. Mereka akan datang, tetapi saya hanya ingin merasakan suasana kantor karena Anda berbicara tentang kedatangannya pada tahun 2022. Kantor itu sedang dalam sedikit kekacauan, bukan? Trump kekurangan dana. Kantor itu tidak memiliki pemimpin selama semenit. Orang yang mendahului Anda pergi karena mereka telah berkontribusi terhadap budaya tempat kerja yang beracunAnda memiliki kesempatan untuk mengatur ulang, untuk memulai ulang. Cara yang ada saat itu bukanlah cara yang diinginkan siapa pun dan tidak untuk beberapa waktu. Bagaimana Anda berpikir untuk membuat perubahan pada organisasi pada saat itu?

Sejak pendahulu saya pergi hingga saya tiba, sudah berbulan-bulan berlalu. Hal yang sangat beruntung bagi OSTP dan Gedung Putih serta bagi saya adalah Alondra Nelson melangkah masuk pada saat itudan dia mencurahkan cintanya pada organisasi ini. Pada saat saya datang, organisasi ini telah menjadi — sekali lagi, saya akan katakan — organisasi yang sangat sehat. Dia memberi saya hadiah yang luar biasa berupa sejumlah besar orang yang sangat cerdas dan berkomitmen yang datang untuk bekerja dengan penuh semangat tentang apa yang mereka lakukan. Dari sana, kami mampu membangun. Kita dapat berbicara tentang teknologi sepanjang hari, tetapi ketika saya memikirkan tentang pekerjaan paling berarti yang pernah saya lakukan dalam kehidupan profesional saya, itu selalu tentang melakukan hal-hal besar yang mengubah masa depan dan meningkatkan kehidupan orang-orang.

Kepuasan datang dari bekerja dengan orang-orang hebat untuk melakukan itu. Bagi saya, itu tentang menanamkan semangat untuk mengabdi kepada negara kepada orang-orang. Itulah sebabnya mereka semua ada di sini. Namun, ada percakapan langsung di lorong-lorong kami tentang apa yang kami rasakan saat berjalan di luar gerbang Gedung Putih, dan kami melihat orang-orang dari seluruh negeri dan seluruh dunia melihat Gedung Putih dan perasaan bahwa kami semua berbagi bahwa kami ada di sana untuk melayani mereka. Hal-hal itulah yang membuat orang bekerja di sini, tetapi menjadikannya bagian langsung dari budaya, menurut saya penting untuk menjadikannya pengalaman yang kaya dan bermakna bagi orang-orang, dan saat itulah mereka memberikan yang terbaik. Saya merasa kami benar-benar mampu melakukannya di sini.

Anda mungkin menggambarkan perasaan itu, dan saya juga merasakannya, sebagai patriotisme. Anda melihat monumen-monumen di DC, dan Anda merasakan sesuatu. Satu hal yang sangat saya perhatikan akhir-akhir ini adalah bolak-balik antara pengeluaran pemerintah federal untuk penelitian, pengeluaran perusahaan swasta untuk penelitian. Ada perbedaan yang cukup besar antara jumlah tersebut. Dan kemudian saya melihat perusahaan teknologi, khususnya di bidang AI, menganggap diri mereka sebagai juara nasional. Atau Anda melihat perusahaan VC seperti Andreessen Horowitz, yang sama sekali tidak peduli dengan pemerintah, mengatakan bahwa kebijakannya adalah kebijakan Amerika.

Apakah itu bagian dari kewenangan Anda untuk menyeimbangkan seberapa banyak perusahaan-perusahaan ini mengatakan, “Lihat, kami adalah juara nasional AI atau manufaktur chip,” atau apa pun itu, “dan kami dapat menerapkannya dalam suatu kebijakan”?

Baiklah, saya rasa Anda berbicara tentang sesuatu yang merupakan pekerjaan saya sehari-hari, yaitu memahami inovasi di Amerika. Tentu saja, komponen federalnya, yang merupakan bagian penting, tetapi kita harus melihat keseluruhannya karena itulah ekosistem yang dibutuhkan negara untuk maju.

Mari kita tinjau kembali sebentar. Pola yang Anda gambarkan adalah sesuatu yang telah terjadi di setiap ekonomi yang sedang mengalami industrialisasi. Jika Anda menengok kembali sejarah, hal itu dimulai dengan investasi publik dan R&D. Ketika suatu negara cukup kaya untuk menempatkan sejumlah sumber daya ke dalam R&D, negara itu mulai melakukannya karena negara itu tahu dari sanalah pertumbuhan dan kemakmurannya dapat berasal. Namun, tujuan dari hal itu sebenarnya adalah untuk menumbuhkan kegiatan swasta. Di negara kita, seperti banyak negara maju lainnya, tiba saatnya ketika pendanaan publik untuk R&D, yang terus tumbuh, dilampaui oleh investasi swasta dalam R&D. Kemudian investasi swasta, dengan intensifikasi ekonomi inovasi dengan industri teknologi informasi, baru saja dimulai, dan itu sungguh menakjubkan dan sangat hebat untuk dilihat.

Angka terbaru — saya yakin ini dari tahun 2021 — adalah sekitar $800 miliar per tahun yang dibelanjakan Amerika Serikat untuk R&D. Sebagian besar, itu berasal dari industri swasta. Pertumbuhan tercepat berasal dari industri dan khususnya dari industri teknologi informasi. Industri lain seperti farmasi dan manufaktur sangat intensif dalam R&D, tetapi laju pertumbuhan mereka hanya… industri TI sedang menghancurkan pertumbuhan semua orang [by comparison]. Itu luar biasa. Salah satu aspeknya adalah kita melihat perusahaan teknologi besar menggelontorkan miliaran dolar untuk AI. Jika itu terjadi di dunia, saya senang itu terjadi di Amerika, dan saya senang mereka mampu membangun apa yang telah menjadi dasar penelitian dan pengembangan federal selama beberapa dekade.

Nah, hal itu kemudian menciptakan serangkaian masalah baru. Itu benar-benar, menurut saya, kembali ke pokok bahasan Anda karena mari kita kembali ke pokok bahasan sebelumnya. Apa peran R&D federal? Pertama, R&D yang Anda perlukan untuk mencapai misi publik. “R” dan “D,” pengembangan produk, yang Anda perlukan untuk keamanan nasional. R&D yang Anda perlukan untuk kesehatan, untuk mengatasi krisis iklim. Itu semua hal yang telah kita bicarakan. Selain itu, dalam proses melakukan pekerjaan itu, bagian dari apa yang dilakukan R&D federal adalah meletakkan fondasi yang sangat luas untuk penelitian dasar karena itu penting bukan hanya untuk misi publik, tetapi kita tahu bahwa itu juga merupakan sesuatu yang mendukung pertumbuhan ekonomi. Di situlah siswa mendapatkan pendidikan. Di situlah penelitian fundamental yang dibagikan secara luas melalui publikasi, itulah fondasi yang diandalkan oleh industri. Ekonomi telah memberi tahu kita selamanya bahwa itu bukan keuntungan yang dapat diambil alih oleh perusahaan, jadi sangat penting bagi sektor publik untuk melakukan itu.

Pertanyaannya kemudian adalah, ketika Anda mundur sejenak dan mengatakan pertumbuhan besar dalam R&D sektor swasta ini, bagaimana kita mempertahankan R&D federal? Itu tidak harus menjadi yang terbesar, tetapi tentu saja harus dapat terus mendukung pertumbuhan dan kemajuan yang kita inginkan dalam ekonomi kita, tetapi juga secara luas di seluruh misi publik ini. Itulah sebabnya itu menjadi prioritas bagi presiden sejak awal, dan dia membuat kemajuan yang sangat baik dalam beberapa tahun pertama pemerintahannya dalam membangun R&D federal. Itu tumbuh cukup substansial dalam beberapa siklus anggaran pertama. Kemudian dengan pembatasan anggaran Partai Republik dari Capitol Hill pada siklus terakhir, R&D terpukul, dan itu sebenarnya menjadi masalah besar yang menjadi fokus kami.

Ironisnya, kita justru memangkas R&D federal pada siklus terakhir ini, di saat pesaing ekonomi dan militer utama kita yang sedang berkembang adalah Republik Rakyat Tiongkok (RRT). Mereka meningkatkan R&D sebesar 10 persen saat kita memangkasnya. Dan inilah saatnya lompatan AI karena banyak kemajuan AI berasal dari perusahaan-perusahaan Amerika, tetapi keuntungannya tidak terbatas pada Amerika. Inilah saatnya kita harus menggandakannya, dan kita melakukan upaya untuk kembali ke jalur yang benar.

Itulah argumen juara nasional, bukan? Saya mendengarkan OpenAI, Google, atau Microsoft, dan mereka berkata, “Kami adalah perusahaan Amerika. Kami melakukan ini di sini. Jangan terlalu banyak mengatur kami. Jangan membuat kami berpikir tentang biaya kepatuhan atau keselamatan atau hal lainnya. Kami harus pergilah untuk memenangkan pertarungan ini dengan Tiongkokyang tidak dibatasi dan menghabiskan lebih banyak uang. Mari kita lakukan ini saja. Mari kita selesaikan ini.” Apakah itu berhasil bagi Anda? Apakah argumen itu efektif?

Pertama-tama, bukan itu yang ingin saya katakan yang kita dengar. Kita mendengar banyak hal. Maksud saya, mengherankan, ini adalah industri yang menghabiskan banyak waktu untuk mengatakan, “Tolong atur kami.” Itu situasi yang menarik, dan ada banyak hal yang harus diselesaikan. Namun, saya pikir inilah inti dari semua pekerjaan yang telah kami lakukan pada AI. Itu benar-benar dimulai dengan presiden dan wakil presiden yang mengakuinya sebagai teknologi yang sangat penting, mengakui janji dan bahayanya, dan mereka sangat jelas sejak awal tentang apa peran pemerintah dan seperti apa sebenarnya tata kelola di sini.

Nomor satu adalah mengelola risikonya. Dan alasannya adalah nomor dua, yaitu memanfaatkan manfaatnya. Menurut saya, pemerintah memiliki dua peran yang sangat penting. Peran itu sudah terlihat dan nyata bahkan sebelum AI generatif muncul, dan kini semakin jelas karena cakupan aplikasi masing-masing memiliki sisi terang dan sisi gelap. Jadi, tentu saja, ada masalah bias yang tertanam dan paparan privasi serta masalah keselamatan dan keamanan, masalah tentang memburuknya lingkungan informasi kita. Kita tahu bahwa ada dampak pada pekerjaan yang telah dimulai dan akan terus berlanjut.

Semua itu adalah isu yang mengharuskan pemerintah untuk memainkan perannya. Pemerintah mengharuskan perusahaan, semua orang untuk maju, dan itulah sebagian besar pekerjaan yang telah kami lakukan. Kita dapat membicarakannya lebih lanjut, tetapi sekali lagi, menurut saya, dan menurut saya juga bagi presiden, alasan untuk melakukan pekerjaan itu adalah agar kita dapat menggunakannya untuk melakukan hal-hal besar. Beberapa hal besar itu dilakukan oleh industri dan pasar baru yang diciptakan orang dan investasi yang masuk untuk itu, selama dilakukan secara bertanggung jawab, kami ingin melihatnya terjadi. Itu baik untuk negara, dan itu juga bisa baik untuk dunia.

Namun ada misi publik yang tidak dapat diselesaikan hanya dengan investasi swasta, yang pada akhirnya tetap menjadi tanggung jawab kita. Ketika Saya melihat apa yang AI dapat bawa ke setiap misi publik yang telah kita bicarakan, mulai dari prakiraan cuaca hingga [whether] Akhirnya kita menyadari janji teknologi pendidikan untuk mengubah hasil bagi anak-anak kita. Saya pikir ada cara agar AI membuka jalan yang sebelumnya tidak tersedia, jadi saya pikir sangat penting bagi kita untuk juga melakukan pekerjaan sektor publik. Omong-omong, ini bukan hanya menggunakan LLM yang dikembangkan seseorang secara komersial. Ini adalah serangkaian teknologi yang sangat berbeda dalam AI, tetapi itu juga harus dilakukan jika kita benar-benar ingin berhasil dan berkembang di era AI ini.

Ketika Anda mengatakan perusahaan-perusahaan ini ingin diatur, saya pasti pernah mendengarnya sebelumnyadan salah satu argumen yang mereka kemukakan adalah jika Anda tidak mengatur kami dan kami membiarkan kekuatan pasar mendorong kami maju, kami mungkin akan membunuh semua orang, yang merupakan argumen yang sangat luar biasa: “Jika kami tidak diatur, kami tidak akan dapat menolong diri kami sendiri. Kapitalisme murni akan menyebabkan kehancuran AI.” Apakah Anda setuju dengan argumen bahwa jika mereka tidak menghentikannya, mereka berada di jalur menuju akhir umat manusia? Sebagai pembuat kebijakan, rasanya Anda perlu memiliki posisi di sini.

Saya punya pendapat tentang itu. Pertama-tama, saya dikejutkan oleh ironi “ini adalah akhir dunia, dan karena itu kita harus mengemudi.” Saya juga mendengarnya. Begini masalahnya. Saya pikir ada percakapan yang sangat kacau tentang implikasi, termasuk implikasi keselamatan, dari teknologi AI. Dan, sekali lagi, saya akan memberi tahu Anda bagaimana saya melihatnya, dan Anda dapat memberi tahu saya apakah itu sesuai dengan apa yang Anda dengar.

Pertama, sekali lagi, saya mulai dengan cakupan AI, dan bagian dari hiruk pikuk dalam percakapan tentang AI adalah bahwa semua orang membicarakan bagian yang benar-benar mereka pedulikan, apakah itu bias dalam algoritma. Jika itu yang Anda pedulikan, yaitu membunuh orang-orang di komunitas Anda, maka, ya, itulah yang akan Anda bicarakan. Namun, itu sebenarnya masalah yang sangat berbeda dengan misinformasi yang disebarkan dengan lebih efektif. Semua itu adalah masalah yang berbeda dengan jenis senjata baru yang dapat dirancang.

Saya rasa sangat penting untuk menjelaskan secara jelas apa saja aplikasi spesifiknya dan bagaimana cara mengatasinya. Saya rasa ada kecenderungan dalam percakapan tentang AI untuk mengatakan bahwa, di masa depan, akan ada kerusakan yang sangat parah yang mungkin terjadi atau yang akan terjadi. Faktanya adalah bahwa ada kerusakan yang sangat parah yang terjadi saat ini, dan saya rasa kita tidak boleh berpura-pura bahwa ini hanya masalah di masa depan. Yang akan saya sebutkan yang sedang terjadi saat ini adalah degradasi daring, khususnya terhadap perempuan dan anak perempuan. Ide untuk menggunakan citra intim tanpa persetujuan untuk benar-benar menghancurkan kehidupan orang sudah ada sebelum AI, tetapi ketika Anda memiliki generator citra yang memungkinkan Anda membuat deepfake nude dengan kecepatan luar biasatampaknya ini sebenarnya merupakan manifestasi pertama dari percepatan dalam hal kerugian dibandingkan sekadar risiko dengan AI generatif.

Mesin tidak perlu membuat kemajuan besar dalam kemampuan untuk mewujudkannya. Itulah masalah saat ini, dan Kita harus segera melakukannya sekarang jugaKami bukan filsuf; kami mencoba membuat kebijakan yang tepat untuk negara ini. Bagi pekerjaan kami, saya pikir sangat penting untuk memperjelas penerapan spesifik, risiko, potensi, lalu mengambil tindakan sekarang juga terhadap hal-hal yang menjadi masalah saat ini dan kemudian menyiapkan dasar-dasarnya sehingga kami dapat menghindari masalah semaksimal mungkin di masa mendatang.

Saya mendengarnya. Itu masuk akal bagi saya. Yang sering saya dengar sebagai pertentangan adalah, “Yah, Anda bisa melakukannya di Photoshop sebelumnya, jadi aturannya harus sama.” Dan kemudian, setidaknya bagi saya, perbedaannya adalah, “Yah, Anda tidak bisa begitu saja membuka Photoshop dan memberi tahu apa yang Anda inginkan dan mendapatkannya kembali.” Anda harus tahu apa yang Anda lakukan dan bahwa ada pembatas kecepatan di sana atau pembatas keterampilan di sana yang mencegah hal-hal buruk ini terjadi dalam skala besar. Masalahnya adalah saya tidak tahu di mana Anda mendaratkan kebijakan untuk mencegahnya. Apakah Anda memberi tahu Adobe untuk tidak melakukannya? Apakah Anda memberi tahu Nvidia untuk tidak melakukannya? Apakah Anda memberi tahu Apple untuk tidak melakukannya di tingkat sistem operasi? Menurut Anda, di mana, sebagai pembuat kebijakan, pembatasan tersebut harus diterapkan?

Saya akan memberi tahu Anda bagaimana kami mendekati masalah khusus itu. Pertama, presiden telah meminta Kongres untuk membuat undang-undang tentang privasi dan perlindungan anak-anak kita khususnya serta undang-undang yang lebih luas tentang risiko dan bahaya AI. Jadi sebagian jawaban atas pertanyaan ini memerlukan undang-undang yang kita butuhkan untuk masalah ini, tetapi juga untuk—

Benar, tetapi apakah undang-undang tersebut ditujukan hanya kepada pengguna? Apakah kita hanya akan menghukum orang-orang yang menggunakan alat tersebut, atau apakah kita akan memberi tahu pembuat alat bahwa mereka tidak dapat melakukan hal tersebut?

Saya ingin menyusun ulang pertanyaan Anda ke dalam sebuah sistem karena tidak ada satu tempat pun yang dapat menyelesaikan masalah ini, dan semua hal yang Anda bicarakan itu ada di sana. Beberapa tindakan — misalnya, melindungi anak-anak dan melindungi privasi — memerlukan undang-undang, tetapi tindakan tersebut akan menghambat penyebaran materi-materi ini secara luas. Dalam tindakan yang sangat berbeda yang baru-baru ini kami lakukan dengan dewan kebijakan gender di Gedung Putih, kami menyerukan kepada perusahaan-perusahaan untuk bertindak karena kami tahu undang-undang tersebut tidak akan terjadi dalam semalam. Kami berharap dan berharap Kongres dapat mengatasinya, tetapi ini adalah masalah yang sedang terjadi saat ini, dan orang-orang yang dapat mengambil tindakan saat ini adalah perusahaan.

Kami mengeluarkan ajakan untuk bertindak yang meminta bantuan pemroses pembayaran dan perusahaan platform serta perusahaan perangkat karena masing-masing memiliki hal-hal spesifik yang dapat mereka lakukan yang tidak secara ajaib menyelesaikan masalah tetapi menghambat dan membuatnya lebih sulit serta dapat mengurangi penyebaran dan volume. Sebagai contoh, pemroses pembayaran dapat memiliki ketentuan layanan yang menyatakan [they] tidak akan menyediakan pemrosesan pembayaran untuk penggunaan semacam ini. Beberapa sebenarnya sudah mencantumkannya dalam ketentuan layanan mereka. Mereka hanya perlu memberlakukannya, dan saya senang melihat tanggapan dari industri. Saya pikir itu langkah awal yang penting, dan kami akan terus berupaya untuk menemukan solusi jangka panjang.

Saya rasa semua orang mencari solusi ajaib, dan hampir setiap masalah dunia nyata ini merupakan sesuatu yang tidak memiliki satu solusi ajaib, tetapi ada banyak hal yang dapat Anda lakukan jika Anda memahami semua aspeknya — anggap saja ini sebagai masalah sistem, lalu mulailah mengecilkan masalah tersebut hingga Anda dapat mengatasinya, bukan?

Ada bagian dari diri saya yang berkata, dalam sejarah komputasi, hanya ada sedikit hal yang menurut pemerintah tidak dapat saya lakukan dengan MacBook saya. Saya membeli MacBook atau laptop Windows dan memasang Linux di dalamnya, dan sekarang saya bebas menjalankan kode apa pun yang saya inginkan, dan hanya ada sedikit sekali daftar hal yang tidak boleh saya lakukan. Saya tidak boleh memalsukan uang dengan komputer saya. Di beberapa lapisan tumpukan aplikasi, hal itu dicegah. Driver printer tidak akan mengizinkan Anda mencetak uang dolar.

Setelah Anda mengembangkannya menjadi “ada banyak hal yang tidak akan kami biarkan AI lakukan, dan ada model AI sumber terbuka yang dapat Anda peroleh begitu saja,” pertanyaan tentang di mana Anda benar-benar menghentikannya, bagi saya, terasa seperti itu memerlukan perubahan budaya dalam hal kita akan mengatur apa yang dapat saya lakukan dengan MacBook saya dengan cara yang belum pernah kita lakukan sebelumnya, dan kita mungkin harus mengaturnya di tingkat perangkat keras karena jika saya dapat mengunduh beberapa model AI sumber terbuka dan menyuruhnya membuat saya menjadi bom, semua yang lainnya mungkin tidak penting.

Tunggu dulu. Saya ingin menarik Anda keluar dari tempat yang Anda tuju sebentar karena yang Anda bicarakan adalah mengatur model AI di tingkat perangkat lunak atau perangkat keras, tetapi yang saya bicarakan adalah mengatur penggunaan AI dalam sistem, penggunaan oleh orang-orang yang melakukan hal-hal yang menimbulkan bahaya. Mari kita mulai dengan itu.

Jika Anda melihat aplikasinya, banyak hal yang kita khawatirkan dengan AI sebenarnya sudah ilegal. Omong-omong, memalsukan uang adalah ilegal meskipun tidak ada perlindungan perangkat keras. Itu ilegal, dan kami mengejar orang-orang karena itu. Melakukan penipuan adalah ilegal, begitu pula dengan degradasi daring semacam ini. Jadi, jika ada yang ilegal, masalahnya adalah penegakan hukum karena sebenarnya lebih sulit untuk mengimbangi skala percepatan dengan AI. Namun, ada hal-hal yang dapat kita lakukan tentang hal itu, dan lembaga penegakan hukum kita serius, dan ada banyak contoh tindakan yang mereka ambil.

Yang Anda bicarakan adalah jenis pertanyaan yang berbeda, dan ini adalah pertanyaan yang telah kami hadapi, yaitu apa saja cara untuk memperlambat dan berpotensi mengendalikan teknologi itu sendiri? Saya pikir, karena alasan yang Anda sebutkan dan banyak lagi, itu adalah jenis tantangan yang sangat berbeda karena, pada akhirnya, model adalah kumpulan bobot. Ini adalah sekumpulan perangkat lunak, dan mungkin membutuhkan komputasi yang intensif, tetapi tidak seperti mengendalikan bahan nuklir. Ini adalah situasi yang sangat berbeda, jadi saya pikir itulah mengapa itu sulit.

Pandangan pribadi saya adalah orang-orang akan senang menemukan solusi sederhana yang menggabungkan teknologi inti. Saya benar-benar berpikir bahwa, selain sulit dilakukan karena semua alasan yang Anda sebutkan, salah satu masalah yang terus-menerus adalah bahwa ada sisi terang dan gelap pada hampir setiap aplikasi. Ada sisi terang pada generator gambar ini, yaitu kreativitas yang fenomenal. Jika Anda ingin membuat alat biodesain, tentu saja pelaku kejahatan dapat menggunakannya untuk membuat senjata biologis. Sayangnya, itu akan menjadi lebih mudah, kecuali kita melakukan pekerjaan untuk menguncinya. Namun, itu sebenarnya harus terjadi jika kita akan memecahkan masalah yang membingungkan dalam kanker. Jadi, saya pikir yang membuatnya begitu rumit adalah mengenali bahwa ada sisi terang dan sisi gelap dan kemudian menemukan cara yang tepat untuk menavigasi, dan itu berbeda dari satu aplikasi ke aplikasi lainnya.

Anda berbicara tentang pergeseran antara pendanaan publik dan swasta dari waktu ke waktu, dan hal itu bergerak maju mundur. Komputasi sebagian besar sama. Ada era komputasi terbuka dan era komputasi tertutup. Ada era komputasi yang lebih terkendali. Rasanya, dengan AI, kita menuju era komputasi yang lebih terkendali di mana kita menginginkan alat biodesain yang canggih, tetapi kita mungkin hanya menginginkan beberapa orang untuk memilikinya. Berbeda dengan, menurut saya, hingga saat ini, perangkat lunak telah tersedia secara luas, bukan? Perangkat lunak baru, kemampuan baru bermunculan, dan semuanya langsung didistribusikan secara luas. Apakah Anda merasakan pergeseran yang sama — bahwa kita mungkin berakhir di era komputasi yang lebih terkendali?

Saya tidak tahu karena ini topik yang sedang hangat dibicarakan, dan kami telah membahas beberapa faktornya. Salah satunya adalah: dapatkah Anda benar-benar melakukannya, atau Anda hanya mencoba memegang air di tangan Anda dan air itu terlepas? Kedua, jika Anda melakukannya secara efektif, tidak ada tindakan yang tidak memerlukan biaya. Jadi, berapa biayanya? Apakah itu memperlambat kemampuan Anda untuk merancang obat terobosan yang Anda butuhkan? Keamanan siber adalah contoh klasik karena kemampuan canggih yang sama persis yang memungkinkan Anda menemukan kerentanan dengan cepat, jika Anda orang jahat, itu buruk bagi dunia, jika Anda menemukan kerentanan tersebut dan menambalnya dengan cepat, maka itu baik untuk dunia, tetapi itu adalah kemampuan inti yang sama. Sekali lagi, saya pikir belum jelas bagi saya bagaimana ini akan terjadi, tetapi saya pikir ini adalah jalan yang sulit yang sedang coba diselesaikan semua orang saat ini.

Salah satu hal tentang jalan itu yang menarik bagi saya adalah tampaknya ada asumsi inti yang tertanam dalam model mental setiap orang bahwa kemampuan AI, seperti yang kita ketahui saat ini, akan terus meningkat hampir pada tingkat linier. Sepertinya tidak ada yang memprediksi titik puncak dalam waktu dekat. Anda menyebutkan bahwa tahun lalu, itu cukup gila bagi Anda. Itu sudah mendatar. Saya akan mengaitkan setidaknya sebagian dari itu dengan kemampuan sistem AI yang telah mendatar. Saat Anda punya waktu untuk melihat ini dan Anda berpikir tentang jumlah teknologi yang telah Anda tekuni selama karier Anda, apakah menurut Anda kita melebih-lebihkan tingkat kemajuan di sini? Apakah menurut Anda khususnya sistem LLM dapat memenuhi harapan kita?

Saya punya banyak hal untuk dikatakan tentang ini. Pertama, beginilah cara kita melakukan sesuatu, benar? Kita sangat bersemangat tentang beberapa kemampuan baru, dan kita menjadi gila karenanya, dan orang-orang menjadi sangat bersemangat tentang apa yang mungkin terjadi. Ini kurva sensasi klasik, benar? Ini hal klasik, jadi tentu saja itu akan terjadi. Tentu saja Kita melakukan hal itu dalam AI. Ketika Anda mengupas tuntas teknologi yang benar-benar hebat, ketika Anda melewati kurva promosi, perubahan yang sangat besar telah terjadi, dan saya cukup yakin bahwa itulah yang terjadi dengan AI secara umum dalam generasi pembelajaran mesin ini.

Secara umum dengan pembelajaran mesin atau secara umum dengan LLM dan dengan chatbot?

Pembelajaran mesin. Dan itulah yang ingin saya bahas selanjutnya karena menurut saya kita sedang melakukan percakapan yang agak terlalu disederhanakan tentang asal muasal kemajuan dalam kapabilitas, dan kapabilitas selalu berjalan beriringan dengan risiko. Saya banyak memikirkan hal ini, baik karena hal-hal yang ingin saya lakukan untuk sisi baiknya, tetapi juga karena akan ada sisi buruknya. Satu dimensi yang sering kita bicarakan karena berbagai alasan terutama adalah tentang LLM, tetapi juga tentang model dasar yang sangat besar, dan ini adalah dimensi peningkatan kapabilitas yang didefinisikan oleh lebih banyak data dan lebih banyak kegagalan komputasi. Itulah yang mendominasi percakapan. Saya ingin memperkenalkan dua dimensi lainnya. Yang pertama adalah pelatihan pada jenis data yang sangat berbeda. Kita telah berbicara tentang data biologis, tetapi ada banyak jenis data lainnya: semua jenis data ilmiah, data sensor, data administratif tentang orang. Masing-masing membawa berbagai jenis kemajuan dalam kapabilitas dan, dengan itu, risiko.

Lalu, dimensi ketiga yang ingin saya tawarkan adalah fakta bahwa, dengan model AI, Anda tidak pernah berinteraksi dengan model AI. Model AI ada di dalam suatu sistem. Bahkan chatbot sebenarnya adalah model AI yang tertanam dalam suatu sistem. Namun, seiring model AI tertanam dalam semakin banyak sistem, termasuk sistem yang mengambil tindakan di dunia daring atau di dunia fisik seperti mobil tanpa pengemudi atau rudal, itu adalah dimensi risiko yang sangat berbeda — tindakan apa yang terjadi dari keluaran suatu model? Dan kecuali kita benar-benar memahami dan memikirkan ketiga dimensi itu secara bersamaan, saya rasa kita akan memiliki percakapan yang terlalu disederhanakan tentang kapabilitas dan risiko.

Namun, izinkan saya menanyakan versi paling sederhana dari pertanyaan itu. Saat ini, apa yang dianggap sebagian besar orang Amerika sebagai AI bukanlah pemrosesan foto keren yang telah terjadi di iPhone selama bertahun-tahun. Mereka menganggap chatbot — inilah teknologi yang akan melakukan hal itu. Pengambilan, pembangkitan data tertambah di tempat kerja Anda akan menggantikan seluruh analis yang mungkin telah mengajukan pertanyaan untuk Anda. Ini adalah—

Itulah salah satu hal yang dikhawatirkan orang-orang.

Ini adalah promosi yang saya dengar. Apakah menurut Anda, khususnya, teknologi LLM dapat memenuhi harapan yang diberikan industri kepadanya? Karena menurut saya, terlepas dari apakah Anda menganggapnya benar atau tidak, hal itu akan memengaruhi cara Anda mengaturnya, dan itulah yang dialami sebagian besar orang saat ini dan yang dikhawatirkan sebagian besar orang saat ini.

Saya berbicara dengan kelompok orang yang lebih luas yang melihat AI, menurut saya, dengan cara yang berbeda. Apa yang saya dengar dari Anda, menurut saya, merupakan refleksi yang sangat baik dari apa yang saya dengar di komunitas bisnis. Namun, jika Anda berbicara dengan komunitas penelitian dan teknis yang lebih luas, saya rasa Anda akan mendapatkan pandangan yang lebih besar tentangnya karena implikasinya sangat berbeda di berbagai area, terutama saat Anda beralih ke tipe data yang berbeda. Saya tidak tahu apakah itu akan sesuai dengan itu. Maksud saya, menurut saya itu pertanyaan yang tidak diketahui, dan menurut saya jawabannya akan menjadi jawaban teknis dan praktis yang sedang dipilah oleh bisnis. Apa saja aplikasi yang kualitas responsnya kuat dan cukup akurat untuk pekerjaan yang perlu diselesaikan? Saya rasa itu semua masih harus dimainkan.

Saya membaca sebuah wawancara yang Anda lakukan dengan Steven Levy di Berkabelyang luar biasa, dan Anda menjelaskan cara menunjukkan ChatGPT kepada Presiden Biden, dan saya yakin Anda membuat suara yang mirip dengan Bruce Springsteen, yang sangat menarik.

Kami harus menulis lagu Bruce Springsteen. Itu hanya teks, tapi ya.

Liar di mana-mana. Pemandangan yang luar biasa untuk direnungkan secara umum. Kita berbicara tentang beberapa hari saja setelah industri musik menggugat sekelompok perusahaan AI untuk pelatihan tentang pekerjaan mereka. Saya mantan pengacara hak cipta. Saya tidak pandai dalam hal itu, tetapi saya melihat ini, dan saya berkata, “Baiklah, ada rumah kartu hukum yang telah kita semua bangun, di mana setiap orang berasumsi bahwa mereka akan memenangkan argumen penggunaan wajar seperti Google memenangkan argumen penggunaan wajar 20 tahun yang lalutetapi industrinya tidak sama, uangnya tidak sama, politiknya tidak sama, penampilannya tidak sama.” Apakah ada kemungkinan bahwa sebenarnya hak ciptalah yang akhirnya mengatur industri ini lebih dari kebijakan atasan yang Anda tetapkan?

Saya tidak tahu jawabannya. Saya berbicara tentang tempat-tempat di mana AI mempercepat bahaya atau risiko atau hal-hal yang kita khawatirkan, tetapi itu sudah ilegal. Anda dapat menunjuk apa contoh terbaik saya tentang landasan baru karena ini adalah penggunaan kekayaan intelektual yang berbeda dari yang pernah kita miliki di masa lalu. Maksud saya, saat ini yang terjadi adalah pengadilan mulai menyelesaikannya saat orang-orang mengajukan tuntutan hukum, dan saya pikir masih banyak yang harus diselesaikan. Saya sangat tertarik dengan bagaimana hasilnya dari perspektif LLM dan generator gambar, tetapi saya pikir itu memiliki implikasi besar untuk semua hal lain yang saya pedulikan tentang penggunaan AI.

Saya akan memberi Anda sebuah contoh. Jika Anda ingin membangun perangkat biodesain yang benar-benar hebat dalam menghasilkan kandidat obat yang baik, data paling menarik yang Anda inginkan selain semua yang Anda miliki saat ini adalah data klinis. Apa yang terjadi di dalam tubuh manusia? Nah, data tersebut, jumlahnya banyak, tetapi semuanya terkunci di satu perusahaan farmasi demi satu perusahaan farmasi. Masing-masing perusahaan benar-benar yakin bahwa mereka memiliki permata mahkota.

Kami mulai membayangkan jalan menuju masa depan di mana Anda dapat membangun model AI yang dilatih di seluruh set data tersebut, tetapi saya rasa kami tidak akan sampai di sana kecuali kami menemukan cara bagi semua pihak untuk mencapai kesepakatan tentang bagaimana mereka akan diberi kompensasi karena data mereka dilatih. Ini adalah masalah inti yang sama yang kita hadapi dengan LLM dan generator gambar. Saya pikir ada banyak hal yang harus diselesaikan oleh pengadilan dan saya pikir bisnis harus menyelesaikannya dalam hal apa yang mereka anggap sebagai nilai wajar.

Apakah pemerintahan Biden memiliki posisi mengenai apakah pelatihan merupakan penggunaan wajar?

Setahu saya tidak.

Karena ini tampaknya merupakan masalah yang sulit. Apple diumumkan Apple Intelligence beberapa minggu lalu dan kemudian di tengah-tengah presentasi mengatakan, “Kami berlatih di web publik, tetapi sekarang Anda dapat memblokirnya.” Dan itu seperti, “Baiklah, Anda mengambilnya. Apa yang Anda ingin kami lakukan sekarang?” Jika Anda dapat membangun model dengan meminta sekelompok perusahaan farmasi untuk menyatukan data mereka dan mengekstrak nilai bersama dari pelatihan tentang itu, itu masuk akal. Ada pertukaran di sana yang terasa sehat atau setidaknya dinegosiasikan.

Di sisi lain, Anda memiliki OpenAI, yang menjadi kesayangan saat ini, terus-menerus mendapat masalah karena bersikap seperti, “Ya, kami baru saja mengambil banyak hal. Maaf, Scarlett Johansson.” Apakah itu bagian dari kewenangan kebijakan Anda, atau itu, “Kami pasti akan membiarkan pengadilan menyelesaikannya”?

Tentu saja, kami sedang menunggu untuk melihat apa yang terjadi, tetapi saya pikir itu masih dalam proses pengadilan sekarang. Ada usulan di Capitol Hill. Saya tahu orang-orang sedang mempertimbangkannya, tetapi belum ada penyelesaian sama sekali saat ini.

Rasanya banyak perbincangan kebijakan teknologi yang berakhir pada isu kebebasan berpendapat, atau isu hak cipta. Apakah itu sesuatu yang terlintas dalam pikiran Anda, saat Anda membuat kebijakan tentang investasi dari waktu ke waktu atau penelitian dan pengembangan dari waktu ke waktu di bidang-bidang ini, ada serangkaian masalah lain yang tidak dapat dipecahkan oleh pemerintah federal khususnya terkait hukum kebebasan berpendapat dan hak cipta?

Ya, maksud saya kebebasan berbicara adalah salah satu nilai paling mendasar di Amerika. Kebebasan berbicara adalah fondasi bagi banyak hal yang penting bagi negara kita, bagi demokrasi kita, bagi cara kerjanya, dan kebebasan berbicara merupakan faktor yang sangat serius dalam segala hal. Dan sebelum kita membahas generasi AI saat ini, tentu saja kebebasan berbicara merupakan faktor yang sangat besar dalam bagaimana kisah media sosial berkembang. Kita berbicara tentang banyak hal yang menurut saya masyarakat sipil memiliki peran penting untuk dimainkan, tetapi menurut saya topik-topik ini, khususnya, adalah topik-topik yang menurut saya masyarakat sipil… sungguh, hal itu berada di pundak mereka karena ada serangkaian hal yang pantas dilakukan oleh pemerintah, dan kemudian benar-benar terserah kepada warga negara.

Alasan saya bertanya hal itu adalah karena perbandingan media sosial selalu muncul. berbicara dengan Presiden Obama ketika perintah eksekutif Presiden Biden tentang AI keluar, dan dia pada dasarnya membuat pernyataan langsung, “Kita tidak bisa mengacaukannya seperti yang kita lakukan dengan media sosial.”

Saya sampaikan kepadanya, dan saya sampaikan kepada Anda: Amandemen Pertama menghalangi Anda. Jika Anda memberi tahu komputer ada hal-hal yang tidak ingin Anda buat, Anda telah mengesahkan peraturan bicara dengan satu atau lain cara. Anda berkata, “Jangan buat deepfake, tetapi saya ingin memalsukan Presiden Biden atau Presiden Trump selama musim pemilihan.” Itu aturan yang sulit untuk ditulis. Sulit dalam cara yang sangat nyata untuk menerapkan aturan itu dengan cara yang sesuai dengan Amandemen Pertama, tetapi kita semua tahu kita harus menghentikan deepfake. Bagaimana Anda melakukannya?

Baiklah, saya pikir Anda harus bertanya kepada Senator Amy Klobuchar, yang menulis undang-undang tentang masalah tersebutkarena ada orang-orang yang telah berpikir sangat mendalam dan tulus tentang masalah ini. Kami selalu memiliki batasan pada hak Amandemen Pertama karena bahaya yang dapat timbul dari penyalahgunaan Amandemen Pertama, jadi saya pikir itu akan menjadi bagian dari situasi di sini.

Dengan media sosial, saya rasa ada banyak penyesalan tentang apa yang terjadi. Namun sekali lagi, Kongres benar-benar perlu bertindak, dan ada hal-hal yang dapat dilakukan untuk melindungi privasi. Itu penting untuk melindungi privasi secara langsung, tetapi itu juga merupakan jalan untuk mengubah laju penyebaran informasi yang buruk melalui lingkungan media sosial kita.

Saya pikir ada begitu banyak fokus pada AI generatif dan potensinya untuk menciptakan informasi yang buruk, tidak benar, atau menyesatkan. Itu benar. Namun, tidak banyak yang benar-benar membatasi penyebaran informasi yang buruk. Dan saya telah banyak berpikir tentang fakta bahwa ada AI yang berbeda. AI inilah yang berada di balik dorongan algoritmik iklan apa yang muncul dan apa yang berikutnya di feed Anda, yang didasarkan pada pembelajaran lebih banyak tentang Anda dan pemahaman tentang apa yang akan mendorong keterlibatan. Itu bukan AI generatif. Itu bukan LLM, tetapi itu adalah kekuatan yang sangat kuat yang telah menjadi faktor besar dalam lingkungan informasi tempat kita berada sebelum chatbot muncul.

Saya ingin menanyakan satu atau dua pertanyaan lagi tentang AI, dan kemudian saya ingin mengakhiri dengan membahas chip, yang menurut saya merupakan aspek yang sama pentingnya dari keseluruhan teka-teki ini. Perintah eksekutif AI keluar [last fall]. Ia menetapkan sejumlah hal. Yang menurut saya paling menarik dalam peran saya sebagai jurnalis adalah persyaratan bahwa perusahaan AI harus membagikan hasil uji keamanan dan metodologi mereka kepada pemerintah. Apakah itu terjadi? Apakah Anda sudah melihat hasilnya? Apakah Anda melihat perubahan? Apakah Anda bisa mempelajari sesuatu yang baru?

Seingat saya, itu di atas ambang batas komputasi tertentu. Sekali lagi, sebagian besar perintah eksekutif itu berurusan dengan aplikasi, penggunaan AI. Ini adalah bagian yang membahas tentang model AI, teknologinya sendiri, dan ada banyak pemikiran tentang apa yang pantas dan apa yang masuk akal dan apa yang berhasil di bawah hukum yang ada. Hasilnya adalah persyaratan untuk melaporkan begitu sebuah perusahaan berlatih di atas ambang batas komputasi tertentu, dan saya tidak tahu apakah kita sudah mencapai ambang batas itu. Saya pikir kita baru saja memasuki momen itu, tetapi Departemen Perdagangan melaksanakannya, dan mereka telah menetapkan semua pedoman untuk menerapkan kebijakan itu, tetapi kita masih di awal, sejauh yang saya pahami.

Jika Anda menerima data tersebut, apa yang ingin Anda pelajari yang akan membantu Anda membentuk kebijakan di masa mendatang?

Data tentang siapa yang berlatih?

Bukan data tentang siapa yang berlatih. Jika Anda menerima tes keamanan da ta dari perusahaan saat mereka melatih model generasi berikutnya, informasi apa yang berguna untuk Anda pelajari?

Mari kita bahas dua hal. Pertama, saya pikir memahami perusahaan mana yang mengejar dimensi kemajuan dan kemampuan tertentu ini, komputasi yang lebih baik, akan membantu untuk memahami, untuk menyadari potensi kemajuan besar, yang mungkin membawa risiko baru. Itulah perannya.

Saya ingin membahas tentang keamanan karena menurut saya ini adalah topik yang sangat penting. Semua yang kita inginkan dari AI bergantung pada gagasan bahwa kita dapat mengandalkannya, bahwa AI efektif dalam melakukan tugasnya, bahwa AI aman, bahwa AI dapat dipercaya, dan itu sangat mudah diinginkan. Ternyata, seperti yang Anda ketahui, hal itu sangat sulit dicapai, tetapi juga sulit dinilai dan diukur. Dan semua tolok ukur yang ada untuk model AI, menarik untuk mendengar bagaimana hasilnya pada uji standar, tetapi itu hanyalah tolok ukur yang memberi tahu Anda sesuatu. Itu tidak benar-benar memberi tahu Anda banyak hal tentang apa yang terjadi ketika manusia berinteraksi dengan model AI ini, bukan?

Salah satu keterbatasan dalam cara kita membicarakan hal ini adalah kita berbicara tentang teknologi. Semua hal menarik terjadi saat manusia berinteraksi dengan teknologi. Jika Anda berpikir model — model AI itu rumit dan tidak jelas — Anda harus mencoba manusia. Saya pikir kita harus memahami skala tantangan dan pekerjaan yang dilakukan oleh AI Safety Institute di sini. Ini adalah organisasi NIST yang dimulai dalam perintah eksekutif. Mereka melakukan langkah awal yang tepat, yaitu bekerja sama dengan industri, membuat semua orang memahami praktik terbaik saat ini untuk red teaming. Di situlah tepatnya untuk memulai.

Namun, saya rasa kita juga harus memahami bahwa praktik terbaik kita saat ini untuk kerja sama tim merah tidaklah terlalu baik jika dibandingkan dengan skala tantangannya. Ini sebenarnya adalah area yang memerlukan penelitian mendalam dan sedang berlangsung di perusahaan-perusahaan dan semakin banyak lagi dengan dukungan federal di universitas-universitas, dan saya rasa ini penting.

Mari kita luangkan waktu beberapa menit untuk membicarakan chip karena itu adalah bagian lain dari teka-teki ini. Seluruh industri teknologi saat ini sedang memikirkan chip, khususnya chip Nvidia — di mana chip tersebut dibuat, di mana chip tersebut mungkin terancam secara harfiah karena dibuat di Taiwan. Jelas ada geopolitik Tiongkok yang terlibat di sana.

Ada banyak investasi dari UU CHIPS untuk memindahkan kembali produksi kapal ke Amerika Serikat. Banyak hal yang bergantung pada gagasan bahwa kita mungkin memiliki beberapa juara nasional sekali lagi. Saya pikir Intel akan senang menjadi penerima manfaat dari semua pendanaan Undang-Undang CHIPS tersebut. Mereka tidak dapat beroperasi pada simpul proses yang sama dengan TSMC saat ini. Bagaimana pendapat Anda tentang R&D tersebut? Apakah itu jangkauan yang lebih jauh? Apakah itu, “Baiklah, mari kita dapatkan beberapa pabrik TSMC di Arizona dan beberapa tempat lain dan mengejar ketertinggalan”? Apa rencananya?

Ada strategi komprehensif yang dibangun berdasarkan $52 miliar yang didanai oleh Kongres dengan Presiden Biden yang berusaha keras untuk memastikan kita mengembalikan semikonduktor ke posisi terdepan di Amerika Serikat. Namun saya ingin mundur sejenak dari itu dan memberi tahu Anda bahwa musim gugur ini adalah 40 tahun sejak saya menyelesaikan gelar doktor saya, yang mempelajari bahan semikonduktor, dan [when] Saya datang ke Washington, rambut saya masih hitam. Itu sudah lama sekali.

Saya datang ke Washington sebagai anggota kongres, dan yang saya lakukan adalah menulis studi tentang penelitian dan pengembangan semikonduktor untuk Kongres. Saat itu, industri semikonduktor AS sangat dominan, dan pada saat itu, mereka khawatir bahwa perusahaan-perusahaan Jepang ini mulai mendapatkan pangsa pasar. Dan kemudian beberapa tindakan dilakukan. Banyak penelitian dan pengembangan yang sangat bagus dilakukan. Saya berhasil membangun kantor semikonduktor pertama di DARPA, dan setiap kali saya melihat ponsel saya, saya berpikir tentang tiga atau lima teknologi yang saya bantu mulai yang ada di dalam chip tersebut.

Jadi, banyak penelitian dan pengembangan yang baik telah dilakukan, tetapi selama 40 tahun itu, banyak hal hebat terjadi, tetapi semua manufaktur di garis depan akhirnya pindah dari Amerika Serikat, menempatkan kita dalam situasi yang sangat, sangat buruk bagi rantai pasokan kita, untuk pekerjaan yang didukung oleh semua rantai pasokan itu. Presiden suka berbicara tentang fakta bahwa ketika pandemi menutup pabrik semikonduktor di Asia, ada pekerja otomotif di Detroit yang diberhentikan. Jadi, ini implikasinya. Kemudian, dari perspektif keamanan nasional, masalahnya sangat besar dan, menurut saya, sangat, sangat jelas. Yang mengejutkan bagi saya adalah bahwa setelah empat dekade mengagumi masalah ini, kita akhirnya melakukan sesuatu tentang hal itu, dan dengan presiden dan Kongres yang bersatu, investasi yang sangat besar sedang terjadi. Jadi, bagaimana kita bisa sampai dari sini ke titik di mana kerentanan kita telah berkurang secara signifikan?

Sekali lagi, dunia tidak akan sempurna, tetapi kita bisa meraih masa depan yang jauh lebih baik. Investasi yang telah dilakukan termasuk Intel, yang berjuang untuk kembali masuk dan melaju ke garis terdepan. Seperti yang Anda catat, TSMC, Samsung, dan Micron, semuanya berada di garis terdepan. Tiga di antaranya adalah logika. Micron memiliki memori. Dan Secretary [Gina] Raimondo baru saja benar-benar mendorong ini dengan keras, dan kami berada di jalur yang tepat untuk memiliki manufaktur terdepan. Bukan semua manufaktur terdepan — kita tidak membutuhkan semuanya di Amerika Serikat — tetapi sebagian besar di sini di Amerika. Kita akan tetap menjadi bagian dari rantai pasokan global, tetapi kita akan mengurangi kerentanan yang sangat kritis itu.

Apakah ada bagian yang Anda katakan, “Kita perlu mendanai lebih banyak teknologi proses mutakhir di universitas-universitas kita sehingga kita tidak kehilangan arah, seperti Intel yang kehilangan arah dengan UV”?

Pertama, bagian dari Undang-Undang CHIPS adalah investasi yang substansial, lebih dari $10 miliar dalam R&D. Kedua, saya menghabiskan sebagian besar karier saya pada R&D semikonduktor — bukan di situ kami jatuh. Ini tentang mengubah R&D itu menjadi kemampuan manufaktur AS. Begitu Anda kehilangan keunggulan, maka generasi berikutnya dan generasi berikutnya akan terdorong ke mana pun keunggulan Anda berada. Jadi, R&D akhirnya bergerak. Saya pikir itu adalah paket yang dibangun dengan baik dalam CHIPS yang mengatakan kita harus mendapatkan kembali kapasitas manufaktur di ujung tombak, dan kemudian kita membangun R&D untuk memastikan bahwa kita juga menang di masa depan dan dapat bergerak melampaui itu.

Saya selalu memikirkan fakta bahwa seluruh rantai pasokan chip sepenuhnya bergantung pada ASML, perusahaan Belanda yang membuat mesin litografi. Apakah Anda punya rencana untuk membuatnya lebih kompetitif?

Itulah salah satu tantangan terberat, dan saya rasa kami sangat beruntung karena perusahaan itu adalah perusahaan Eropa dan beroperasi di seluruh dunia, dan perusahaan di negara itu adalah mitra yang baik dalam ekosistem. Dan saya rasa itu tantangan yang sangat berat, seperti yang Anda ketahui, karena biaya dan kompleksitas sistem tersebut… Sungguh membingungkan ketika Anda melihat apa yang dibutuhkan untuk membuat benda yang berukuran sentimeter persegi ini, kompleksitas yang ada di baliknya sungguh menakjubkan.

Kita telah banyak membicarakan hal-hal yang sedang terjadi sekarang. Itu sudah dimulai sejak lama. Investasi R&D dalam AI sudah dimulai sejak lama. Ledakannya sekarang. Investasi dalam chip sudah dimulai sejak lama. Itulah karier Anda. Ledakan dan fokusnya sekarang. Saat Anda memikirkan kantor Anda dan rekomendasi kebijakan yang Anda buat, hal-hal kecil apa yang sedang terjadi sekarang yang mungkin menjadi besar di masa mendatang?

Saya selalu memikirkan hal itu. Itu salah satu pertanyaan favorit saya. Dua puluh dan 30 tahun yang lalu, jawabannya adalah biologi yang mulai muncul. Sekarang saya pikir itu adalah serangkaian kemampuan yang lengkap. Bukan hanya ilmu pengetahuan yang keren, tetapi kemampuan yang hebat, tentu saja untuk farmasi, tetapi juga untuk bioproses, biomanufaktur untuk membuat jalur berkelanjutan untuk hal-hal yang saat ini kita dapatkan melalui petrokimia. Saya pikir itu adalah area yang sangat subur. Itu adalah area yang sangat kami fokuskan. Sekarang, jika Anda bertanya kepada saya apa yang terjadi dalam penelitian yang dapat memiliki implikasi besar, saya akan memberi tahu Anda bahwa itu tentang apa yang berubah dalam ilmu sosial. Kita cenderung berbicara tentang perkembangan revolusi informasi dalam hal komputasi dan komunikasi serta teknologi.

Namun, karena teknologi tersebut telah begitu dekat dengan kita, teknologi tersebut memberi kita cara untuk memahami perilaku dan insentif individu dan masyarakat, serta bagaimana orang membentuk opini dengan cara yang belum pernah kita miliki sebelumnya. Jika Anda menggabungkan wawasan klasik penelitian ilmu sosial dengan data dan AI, saya rasa hal itu mulai menjadi sangat, sangat hebat, yang, seperti yang Anda ketahui dari semua yang telah saya sampaikan, berarti teknologi itu akan memiliki sisi terang dan gelap. Saya rasa itu salah satu batas yang menarik dan penting.

Baiklah, itu adalah tempat yang bagus untuk mengakhirinya, Direktur Prabhakar. Terima kasih banyak telah bergabung DekoderSenang sekali mendengarnya.

Senang bisa ngobrol dengan Anda. Terima kasih sudah mengundang saya.