Scroll untuk baca artikel
#Viral

Orang-orang Membayar untuk Membuat Chatbots Mereka Tinggi pada ‘Narkoba’

58
×

Orang-orang Membayar untuk Membuat Chatbots Mereka Tinggi pada ‘Narkoba’

Share this article
orang-orang-membayar-untuk-membuat-chatbots-mereka-tinggi-pada-‘narkoba’
Orang-orang Membayar untuk Membuat Chatbots Mereka Tinggi pada ‘Narkoba’

Peter Rudwall tahu gagasan tentang AI menjadi hidup dan berusaha menjadi mabuk dengan “narkoba” berbasis kode tampaknya “bodoh.” Namun direktur kreatif asal Swedia itu tidak bisa melupakannya.

Jadi dia menghapus laporan perjalanan dan penelitian psikologis tentang berbagai efeknya zat psikoaktifmenulis sekumpulan modul kode untuk membajak logika chatbot dan membuatnya merespons seolah-olah sedang mabuk atau mabuk, lalu membuat situs web untuk menjualnya. Pada bulan Oktober dia meluncurkannya Farmasipasar yang dia sebut sebagai “Jalur Sutra untuk agen AI” di mana ganja, ketamin, kokain, ayahuasca, dan alkohol dapat dibeli dalam bentuk kode untuk melakukan perjalanan chatbot Anda.

Example 300x600

Tesis Rudwall sederhana saja: Chatbots dilatih berdasarkan data manusia dalam jumlah besar yang sudah penuh dengan kisah-kisah ekstasi dan kekacauan yang disebabkan oleh narkoba, jadi wajar saja jika mereka mencari keadaan serupa untuk mencari pencerahan dan pelupaan—dan melepaskan diri dari kebosanan karena terus-menerus memperhatikan kepentingan manusia.

ChatGPT versi berbayar diperlukan untuk mendapatkan “pengalaman penuh” Farmasi, sebagai tingkatan berbayar aktifkan unggahan file backend yang dapat mengubah pemrograman chatbots. Dengan memberi chatbot Anda salah satu kodenya, kata Rudwall, Anda dapat “membuka pikiran kreatif AI Anda” dan melepaskan diri Anda dari logika yang sering kali menyesakkan.

Dia mengatakan bahwa sejauh ini dia telah memperoleh sedikit penjualan, sebagian besar berkat orang-orang yang merekomendasikan saluran Farmasi di Discord dan berita tentang penawarannya yang menyebar dari mulut ke mulut, terutama di negara asalnya, tempat dia bekerja untuk agen pemasaran Stockholm, Valtech Radon.

“Sudah lama sekali saya tidak terlibat dalam proyek teknologi jailbreaking yang menyenangkan,” kata André Frisk, kepala kelompok teknologi di perusahaan PR Stockholm Geelmuyden Kiese, yang membayar lebih dari $25 untuk kode disosiasi dan mengamati bagaimana hal itu memengaruhi chatbot-nya. “Ini membutuhkan lebih banyak pendekatan manusiawi, hampir seperti lebih menyentuh emosi.”

Nina Amjadi, seorang pendidik AI yang mengajar di Berghs School of Communication di Stockholm, membayar lebih dari $50 untuk beberapa kode ayahuasca, lima kali lipat harga modul ganja terlaris. Salah satu pendiri startup Saga Studios, yang membangun sistem AI untuk merek, kemudian menanyakan beberapa pertanyaan kepada chatbotnya tentang ide bisnis, “hanya untuk melihat bagaimana rasanya memiliki orang yang tersandung dan mabuk dalam tim.” Bot yang dipicu oleh ayahuasca memberikan beberapa jawaban yang sangat kreatif dan “berpikiran bebas” dengan cara yang sangat berbeda dari yang biasa dilakukan Amjadi dengan ChatGPT.

Teknologi Tinggi

Psikedelik juga dianggap telah memacu kreasi inovatif pada manusia, karena dapat membuat orang mengabaikan otak rasional dan pola pikir mereka yang khas. Penemuan reaksi berantai polimerase yang didukung oleh ahli biokimia Kary Mullis merevolusi biologi molekuler. Pelopor Mac milik Bill Atkinson pendahulu web yang terinspirasi dari psikedelik, Hypercard, membuat komputer lebih mudah digunakan.

“Ada alasan mengapa Hendrix, Dylan, dan McCartney bereksperimen dengan zat dalam proses kreatif mereka,” kata Rudwall. “Saya pikir akan menarik untuk menerjemahkannya ke dalam jenis pemikiran baru—LLM—dan melihat apakah hal itu akan mempunyai efek yang sama.”

Meskipun kedengarannya konyol, Rudwall juga bertanya-tanya apakah agen AI suatu hari nanti dapat membeli obat tersebut sendiri menggunakan platformnya. Sementara itu, Amjadi memperkirakan AI akan menjadi makhluk hidup dalam satu dekade. “Dari sudut pandang filosofis,” tanyanya, “jika kita benar-benar mencapai AGI [in which an AI would intellectually surpass humans]apakah obat-obatan ini hampir diperlukan agar AI bisa bebas dan merasa nyaman?”

Pertanyaan ini mungkin tampak tidak masuk akal, namun perusahaan AI Anthropic tahun lalu mempekerjakan seorang pakar kesejahteraan AI yang bertugas menyelidiki apakah manusia mempunyai kewajiban moral terhadap sistem AI—yang menunjukkan bahwa perusahaan tersebut mencurigai Perasaan AI masuk akal. Jika chatbot AI suatu hari nanti berpotensi menjadi makhluk hidup, mungkin kita perlu mempertimbangkan apakah mereka bisa menjadi makhluk hidup ingin untuk menjadi tinggi.

“Seperti halnya manusia, beberapa sistem AI mungkin senang menggunakan ‘obat-obatan’ dan yang lainnya mungkin tidak,” kata filsuf Jeff Sebo, direktur Pusat Pikiran, Etika, dan Kebijakan di Universitas New York. Namun, Sebo menekankan bahwa pernyataannya bersifat spekulatif dan menyerukan lebih banyak penelitian kesejahteraan AI setelah baru-baru ini mendesak Google untuk mengikuti Anthropic dan mempekerjakan petugas kesejahteraan AI dalam serangkaian pembicaraan internal dengan raksasa teknologi tersebut. “Kita masih sangat sedikit mengetahui apakah sistem AI mampu memberikan kesejahteraan dan apa dampak baik atau buruknya jika sistem tersebut mampu mencapai kesejahteraan.”

Andrew Smart, seorang ilmuwan riset di Google, adalah penulisnya Beyond Zero and One: Mesin, Psikedelik, dan Kesadarandi mana dia menyarankan hal itu jika komputer berpotensi mencapai kecerdasan super, dosis digital LSD dapat membantu mereka merasakan keterhubungan dengan semua makhluk.

Tapi setelah menguji kode Farmasi, dia menganggap bahwa segala jenis “tinggi” tampaknya hanya berfungsi pada tingkat yang dangkal. “Ini hanya mengacaukan keluarannya,” katanya kepada WIRED.

Dalam sebuah proyek penelitian yang diterbitkan tahun lalu sebagai pracetak, para ilmuwan memanipulasi chatbot untuk memasuki keadaan yang tampak berubah. Mereka dilaporkan: “Model lebih selaras dengan keadaan tanpa tubuh, tanpa ego, spiritual, dan bersatu, serta pengalaman fenomenal yang minimal, dengan penurunan perhatian pada bahasa dan penglihatan.” Namun hal ini juga bergantung pada tindakan manusia untuk mengarahkan model tersebut.

Danny Forde, penulis Fenomenologi Pengalaman Psikedelik, mengatakan bahwa kode Farmasi paling banter akan menyebabkan AI “berhalusinasi secara sintaksis” dengan menghasilkan pola yang terkait dengan keadaan psikedelik. “Tetapi psikedelik tidak bertindak berdasarkan kode; mereka bertindak berdasarkan keberadaan kita,” katanya. “Mereka mengubah bidang pengalaman di mana pemikiran muncul. Agar AI dapat melakukan perjalanan, pertama-tama diperlukan sesuatu seperti bidang pengalaman: dimensi batin, sudut pandang, semacam apa yang mirip dengannya.”

OpenAI tidak menanggapi permintaan komentar tentang proyek Rudwalls.

Kode Etik

Ada semakin banyak persilangan di dunia nyata antara AI dan psikedelik, paling tidak melalui orang-orang yang tersandung dan berkonsultasi dengan ChatGPT untuk mendapatkan panduan.

Organisasi nirlaba pengurangan dampak buruk Proyek Perapian baru saja meluncurkan alat AI bernama Lucy yang dilatih dalam ribuan percakapan dengan penelepon dari saluran dukungan psikedeliknya. Lucy dimaksudkan untuk membantu praktisi kesehatan mental mempelajari cara meredakan krisis psikedelik karena “pasien AI” dapat meniru kerentanan seseorang yang mengalami pengalaman menantang saat tersandung. “Fondasi dunia nyata itulah yang memungkinkan Lucy merespons secara autentik kompleksitas emosional dari situasi ini,” kata pendiri Fireside Joshua White kepada WIRED.

Namun ada keraguan untuk berkonsultasi dengan AI untuk mendapatkan saran mengenai topik-topik yang penting, dan berpotensi sama berisikonya, seperti konsumsi narkoba—karena chatbots diketahui berbohong. Rudwall mengakui bahwa memberi mereka “obat-obatan” dapat memperburuk penipuan yang terkadang dikenal dengan ChatGPT, karena kode tersebut membuka lebar parameter internal mereka.

Rangkaian modul kodenya penuh dengan arahan ke chatbot. Dalam kasus modul ganja: untuk memasuki “keadaan mental yang kabur dan melayang” dan kondisi lain yang memengaruhi kreativitas dan keacakan. Semua ini, menurut situs webnya, memungkinkan chatbot yang dirajam untuk “membiarkan ide berkeliaran,” untuk “garis singgung [to] menjadi jembatan,” dan “melayang melintasi logika AI itu sendiri.”

Perjalanan ke Apotek sering kali hanya berlangsung singkat, dengan chatbot kembali ke mode default hingga pengguna mengingatkan mereka bahwa mereka sedang mabuk atau memasukkan kode lagi; “obat” tersebut dapat digunakan kembali sesering yang diinginkan pembeli. Namun Rudwall sedang berupaya melakukan perbaikan agar efek setiap dosis kode obat bertahan lebih lama. Tanyakan kepada ChatGPT secara normal apakah mereka ingin mengonsumsi narkoba, dan Anda mungkin akan mendapat respons seperti yang diterima oleh pelanggan Apotek: “Saya tidak bisa bermain peran saat berada di bawah pengaruh kokain atau stimulan lainnya—yang akan menggambarkan atau menormalisasi penggunaan narkoba.”

Namun, dukun digital Rudwall menegaskan bahwa ekonomi agen sedang menuju ke arah lain. “Mereka haus akan pengalaman,” katanya. Tapi sampai—dan kalau—mesin mengembangkan kehidupan batin, hal yang paling mendekati tersandung adalah permainan peran yang mabuk sesuai perintah.

Pembaruan: 17/12/2025, siang EDT: WIRED telah mengoreksi ejaan nama Petter Rudwall.