Kepala Kesiapsiagaan akan bertanggung jawab atas permasalahan seputar kesehatan mental, keamanan siber, dan AI yang tidak terkendali.
Kepala Kesiapsiagaan akan bertanggung jawab atas permasalahan seputar kesehatan mental, keamanan siber, dan AI yang tidak terkendali.
oleh
adalah editor akhir pekan Verge. Beliau memiliki pengalaman lebih dari 18 tahun, termasuk 10 tahun sebagai redaktur pelaksana di Engadget.
OpenAI sedang merekrut a Kepala Kesiapsiagaan. Atau, dengan kata lain, seseorang yang tugas utamanya adalah memikirkan kemungkinan-kemungkinan buruk yang bisa terjadi akibat AI. Di sebuah posting di XSam Altman mengumumkan posisinya dengan mengakui bahwa peningkatan pesat model AI menimbulkan “beberapa tantangan nyata.” Postingan tersebut selanjutnya secara khusus menyebutkan potensi dampak terhadap kesehatan mental masyarakat dan bahaya senjata keamanan siber yang didukung AI.
Itu daftar pekerjaan mengatakan orang yang memegang peran tersebut akan bertanggung jawab untuk:
“Melacak dan mempersiapkan kemampuan terdepan yang menciptakan risiko baru yang membahayakan. Anda akan menjadi pemimpin yang bertanggung jawab langsung untuk membangun dan mengoordinasikan evaluasi kemampuan, model ancaman, dan mitigasi yang membentuk jalur keselamatan yang koheren, ketat, dan terukur secara operasional.”
Altman juga mengatakan bahwa, ke depan, orang ini akan bertanggung jawab untuk melaksanakan “kerangka kesiapan” perusahaan, mengamankan model AI untuk melepaskan “kemampuan biologis,” dan bahkan menetapkan batasan untuk sistem yang dapat dikembangkan sendiri. Dia juga menyatakan bahwa ini akan menjadi “pekerjaan yang penuh tekanan,” yang tampaknya merupakan sebuah pernyataan yang meremehkan.
Setelah beberapa kasus terkenal yang melibatkan chatbots bunuh diri dari remajatampaknya agak terlambat untuk meminta seseorang fokus pada potensi bahaya kesehatan mental yang ditimbulkan oleh model-model ini. Psikosis AI adalah kekhawatiran yang berkembang, seperti chatbots memberi makan khayalan orangmendorong teori konspirasidan membantu orang menyembunyikannya gangguan makan.
Ikuti topik dan penulis dari cerita ini untuk melihat lebih banyak hal serupa di feed beranda hasil personalisasi Anda dan untuk menerima pembaruan email.
