Teknologi bot yang sedang naik daun — AI generatif — dapat menulis email, menghasilkan kode, dan mewujudkan grafis dalam hitungan menit. Tiba-tiba, hari-hari ketika para pekerja meneliti kotak masuk mereka dan dengan susah payah menyusun presentasi tampak seperti peninggalan masa lalu.
Perusahaan-perusahaan yang tergiur oleh keuntungan dan peningkatan produktivitas, bergegas mengadopsi teknologi tersebutMenurut sebuah laporan bulan Mei survei dari firma konsultan Mckinsey & Company, 65% dari lebih dari 1.300 perusahaan yang ditelitinya mengatakan mereka sekarang secara teratur menggunakan AI generatif — dua kali lipat jumlah yang menggunakannya tahun sebelumnya.
Tetapi risiko penyalahgunaan teknologinya tampak besar. AI generatif dapat berhalusinasi, menyebarkan misinformasi, dan memperkuat bias terhadap kelompok terpinggirkan jika tidak dikelola dengan baik. Mengingat teknologinya bergantung pada sejumlah besar data sensitif, potensi terjadinya pelanggaran data juga tinggi. Namun, yang terburuk, ada bahaya bahwa semakin canggih teknologinya, semakin kecil kemungkinannya untuk sejalan dengan nilai-nilai kemanusiaan.
Dengan kekuatan besar, maka datanglah tanggung jawab besar, dan perusahaan yang menghasilkan uang dari AI generatif juga harus memastikan mereka mengaturnya.
Di sinilah peran kepala pejabat etik.
Peran penting di era AI
Itu rincian peran tersebut bervariasi dari satu perusahaan ke perusahaan lain, tetapi — secara umum — mereka bertanggung jawab untuk menentukan dampak penggunaan AI oleh suatu perusahaan terhadap masyarakat luas, menurut Var Shankar, kepala AI dan privasi di Enzaisebuah platform perangkat lunak untuk tata kelola, risiko, dan kepatuhan AI. “Jadi, selain perusahaan dan laba bersih Anda, bagaimana pengaruhnya terhadap pelanggan Anda? Bagaimana pengaruhnya terhadap orang lain di dunia? Lalu bagaimana pengaruhnya terhadap lingkungan,” katanya. kepada Business Insider. Kemudian muncul “pembuatan program yang menstandardisasi dan meningkatkan skala pertanyaan tersebut setiap kali Anda menggunakan AI.”
Peran ini memberi para penggila kebijakan dan mahasiswa filsafat, bersama para ahli pemrograman, pijakan dalam industri teknologi yang berubah cepat. Dan sering kali disertai dengan gaji tahunan yang cukup besar, yaitu sekitar enam digit.
Namun saat ini, perusahaan tidak merekrut orang untuk peran ini dengan cukup cepat, menurut Steve Mills, kepala etika AI di Kelompok Konsultasi Boston“Saya pikir ada banyak pembicaraan tentang risiko dan prinsip, tetapi sedikit tindakan untuk mengoperasionalkannya di dalam perusahaan,” katanya.
Tanggung jawab tingkat C-suite
Menurut Mills, mereka yang berhasil dalam peran tersebut idealnya memiliki empat bidang keahlian. Mereka harus memiliki pemahaman teknis tentang AI generatif, pengalaman dalam membangun dan menerapkan produk, pemahaman tentang undang-undang dan peraturan utama seputar AI, serta pengalaman signifikan dalam perekrutan dan pengambilan keputusan di suatu organisasi.
Cerita terkait
“Sering kali, saya melihat orang-orang menugaskan manajer tingkat menengah, dan meskipun mereka mungkin memiliki keahlian, keinginan, dan gairah, mereka biasanya tidak memiliki kapasitas untuk mengubah berbagai hal dalam organisasi dan menyatukan tim hukum, bisnis, dan kepatuhan,” katanya. Setiap perusahaan Fortune 500 yang menggunakan AI dalam skala besar perlu menugaskan seorang eksekutif untuk mengawasi program AI yang bertanggung jawab, tambahnya.
Shankar, seorang pengacara yang terlatih, mengatakan bahwa peran tersebut tidak memerlukan latar belakang pendidikan tertentu. Kualifikasi yang paling penting adalah memahami data perusahaan. Itu berarti memahami “implikasi etis dari data yang Anda kumpulkan, gunakan, dari mana asalnya, di mana data tersebut sebelum berada di organisasi Anda, dan jenis persetujuan apa yang Anda miliki terkait data tersebut,” katanya.
Ia mencontohkan penyedia layanan kesehatan yang secara tidak sengaja dapat melestarikan bias jika mereka tidak memiliki pemahaman yang kuat terhadap data mereka. belajar dipublikasikan di Science, rumah sakit dan perusahaan asuransi kesehatan yang menggunakan algoritma untuk mengidentifikasi pasien yang akan mendapat manfaat dari “manajemen perawatan berisiko tinggi” akhirnya memprioritaskan pasien kulit putih yang lebih sehat daripada pasien kulit hitam yang lebih sakit. Itulah jenis kesalahan yang dapat dihindari oleh petugas etika di perusahaan.
Berkolaborasi lintas perusahaan dan industri
Mereka yang menduduki peran tersebut juga harus mampu berkomunikasi dengan percaya diri dengan berbagai pemangku kepentingan.
Christina Montgomery, wakil presiden IBM, kepala privasi dan kepercayaan, serta ketua Dewan Etika AI, mengatakan kepada BI bahwa hari-harinya biasanya penuh dengan rapat dan acara klien, di samping tanggung jawab lainnya.
“Saya menghabiskan banyak waktu di luar kantor, mungkin lebih banyak waktu akhir-akhir ini, berbicara di berbagai acara dan berinteraksi dengan para pembuat kebijakan dan di dewan eksternal karena saya merasa kita memiliki banyak peluang untuk memengaruhi dan menentukan seperti apa masa depan,” katanya.
Dia duduk di papan seperti Asosiasi Internasional Profesional Privasi, yang baru-baru ini meluncurkan Asosiasi Profesional Tata Kelola Kecerdasan Buatan sertifikasi untuk individu yang ingin memimpin bidang etika AI. Ia juga bekerja sama dengan para pemimpin pemerintah dan pejabat etika utama lainnya.
“Saya rasa sangat penting bagi kita untuk saling berbicara secara berkala dan berbagi praktik terbaik, dan itu banyak kami lakukan di berbagai perusahaan,” katanya.
Ia bertujuan untuk mengembangkan pemahaman yang lebih luas tentang apa yang terjadi di tingkat masyarakat — sesuatu yang ia lihat sebagai kunci perannya.
“Ketakutan saya terhadap situasi yang kita hadapi saat ini adalah tidak adanya interoperabilitas secara global di antara semua peraturan ini, dan apa yang diharapkan, dan apa yang benar dan salah dalam hal apa yang harus dipatuhi oleh perusahaan,” katanya. “Kita tidak dapat beroperasi di dunia seperti itu. Jadi, percakapan antara perusahaan, pemerintah, dan dewan direksi sangat penting saat ini.”
