Saat itu pertengahan bulan Oktober, puncak musim mengintip daun di Hanover, New Hampshire, dan Chad Markey jarang mengalami jeda antara rotasi klinis selama tahun terakhir sekolah kedokterannya. Dia seharusnya menghirup udara Green Mountain dan bergosip dengan teman-teman sekelasnya di Dartmouth tentang kehidupan setelah lulus. Dalam beberapa bulan, mereka semua akan berpisah untuk memulai pelatihan residensi di rumah sakit di seluruh negeri.
Sebaliknya, Markey sendirian di apartemennya, jauh di dalam lubang kelinci, bersiap untuk berperang.
Dia bangun setiap pagi, sarapan, membuka laptopnya di meja dapur atau duduk di kursi berlengan cokelat dengan penyangga punggung yang baik, dan mulai pengkodean. Kadang-kadang, dia tidak menyadari matahari telah terbenam sampai salah satu teman sekamarnya pulang dan bertanya mengapa lampunya tidak menyala.
Selama berhari-hari, Markey menelusuri a Perselisihan kelompok tentang residensi medis, sebuah sumber pengetahuan crowdsourced di mana siswa melaporkan kembali kepada rekan-rekan mereka pada setiap tahap proses pendaftaran dan seleksi. Dia menyaksikan siswa lain, banyak dari mereka, memposting tentang undangan wawancara yang mereka terima.
Markey tidak mendapat tawaran wawancara apa pun, hanya penolakan langsung. Hal ini tampaknya bukan hanya aneh tapi juga salah bagi pria berusia 33 tahun yang berwatak pendiam asal Houston, Texas, yang berbicara dengan percaya diri tentang pencapaiannya tanpa menyombongkan diri. Dia mendapat nilai bagus dari sekolah kedokteran Ivy League, penghargaan penulis pada artikel di Journal of American Medical Association dan The Lancet, pernyataan pribadi yang menyayat hati, dan surat rekomendasi yang cemerlang. Seorang profesor menulis bahwa mereka “belum pernah bertemu dengan seorang mahasiswa kedokteran yang lebih terampil, berbakat, dan memiliki posisi yang tepat dalam menekuni bidang kedokteran. obat daripada Chad.”
Markey menyisir lamarannya untuk mencari kesalahan fatal. Dia tidak menemukan apa pun yang menurutnya akan mendorong direktur program residensi untuk membatalkan lamaran yang kompetitif, jadi kecurigaannya beralih ke pelaku lain. Dia mendengar kabar bahwa beberapa rumah sakit menggunakan alat skrining AI gratis untuk membantu memproses permohonan—dan alat tersebut menampilkan nilai yang salah untuk beberapa siswa. Dia mulai bertanya-tanya apakah AI bertanggung jawab atas kurangnya tawaran wawancara.
Pada halaman pertama Evaluasi Kinerja Mahasiswa Kedokteran, ringkasan komprehensif awal kariernya yang disiapkan oleh sekolahnya, Markey melihat bahasa yang ia duga dapat memicu alat penyaringan otomatis untuk menurunkan versi lamarannya. MSPE menyatakan bahwa Markey telah “secara sukarela” mengambil tiga cuti terpisah, dengan total waktu sekitar 22 bulan, dan telah memilih untuk memperpanjang tahun ketiga kursusnya selama dua tahun karena “alasan pribadi.”
Hal itu tidak sepenuhnya benar. Pada tahun 2021, Markey didiagnosis menderita ankylosing spondylitis, penyakit autoimun yang mempengaruhi tulang belakang dan dapat berkembang hingga ia tidak dapat berdiri, apalagi melakukan pekerjaan fisik intensif yang diharapkan dari mahasiswa kedokteran selama rotasi klinis. Dia berada di jalur yang tepat untuk lulus dari sekolah kedokteran dalam tujuh tahun, bukan empat tahun seperti biasanya, namun ketidakhadirannya tidak dapat dihindari dan diperlukan secara medis. Hal ini dijelaskan dalam paragraf naratif di halaman pertama. Menyebut ketidakhadiran tersebut “sukarela”, menurut Markey, dapat ditafsirkan sebagai bukti bahwa ia telah menyerah pada tekanan sekolah kedokteran dan tidak mampu melanjutkan studinya.
Seiring berjalannya waktu, kata Markey, dia merasa semakin takut bahwa pelatihannya selama bertahun-tahun akan berakhir dengan kegagalan. “Saya merangkak keluar dari lubang hitam,” katanya kepada WIRED, mengacu pada diagnosisnya. “Saya tidak bisa berjalan selama enam bulan. Saya sudah sampai sejauh ini, dan ini terjadi?” Dia menanyakan pada dirinya sendiri pertanyaan yang sama yang muncul di benak jutaan pencari kerja lainnya setiap hari: Apakah AI membuang lamaran saya?
Bahkan para perekrut akan mengakui bahwa wajar saja jika mereka bertanya-tanya. CEO sebuah platform perekrutan mengatakan pada musim gugur yang lalu bahwa industrinya berada dalam “lingkaran malapetaka AI”: departemen SDM mengeluhkan gelombang lamaran pekerjaan yang dihasilkan oleh AI, sehingga mendorong perlunya lebih banyak filter AI. Para pelamar mengeluh bahwa mereka disaring secara tidak adil. Beberapa orang melawan AI dengan AI, mengisi resume dan surat lamaran mereka dengan kata-kata kunci. “Bagi saya rasanya sangat dystopian,” salah satu pencari kerja kata para peneliti dari Northeastern University. “Kelayakan saya sebagai manusia dan sebagai karyawan, sebagai pekerja, didasarkan pada kemampuan saya menyaring diri saya sendiri melalui serangkaian gerbang otomatis.”
Hanya segelintir negara bagian yang mengatur penggunaan alat penyaringan AI untuk membuat keputusan perekrutan. Undang-undang di Illinois, New Jersey, dan Colorado (yang belum berlaku) melarang pemberi kerja menggunakan alat yang bersifat diskriminatif, namun hanya memberikan sedikit mandat mengenai transparansi selain mewajibkan pemberi kerja untuk memberi tahu pelamar bahwa AI sedang digunakan. Peraturan di California lebih ketat dan mengharuskan perusahaan untuk menguji secara teratur alat perekrutan AI mereka untuk mengetahui adanya bias. Namun tidak satu pun dari aturan tersebut yang memberdayakan seseorang untuk memahami bagaimana alat perekrutan AI tertentu menilai mereka, atau apakah alat tersebut mendiskriminasi mereka.
Jadi Markey mulai mengerjakan tugas yang mustahil. Dia akan menghabiskan enam bulan berikutnya untuk menulis email, makalah penelitian, permintaan hukum, dan terus-menerus menggunakan kode Python, mencoba mengintip ke dalam penyaring AI. “Itu berubah menjadi obsesi,” kata Markey kepada WIRED pada bulan Februari. “Saya rasa, saya belum pernah merasa sesedih ini sebelumnya dalam hidup saya.”
Tes medis pertama Markey Pelatihan datang di sekolah menengah, ketika dia memilah-milah kantong ziplock galon tempat ayahnya menyimpan obat resepnya, mencatat nama-namanya, dan pergi ke perpustakaan perguruan tinggi setempat untuk meneliti tujuannya. Ayahnya menderita bipolar dan kecanduan alkohol, bola energi karismatik dan tak terduga yang mampu menunjukkan cinta yang besar dan menyebabkan rasa sakit yang luar biasa.
Pada suatu Natal, yang juga merupakan hari ulang tahun Markey, ayahnya tidak muncul karena ditangkap karena mengemudi dalam keadaan mabuk. Pada Natal lainnya, Markey melihat ke luar jendela depan dan menemukan truknya diambil alih karena ayahnya telah memberikannya sebagai jaminan untuk pinjaman gaji. Saat Markey kuliah di Pell Grants, keluarganya terpaksa menyatakan bangkrut dan kehilangan rumah mereka. Ketika dia berusia 21 tahun, ayahnya meninggal.
Markey ingat saat dia tertarik untuk menekuni psikiatri. Saat itulah ayahnya menjelaskan mengapa dia mulai minum terlalu banyak: Dalam masa manik, dia menjalani hari-hari tanpa tidur, dan satu-satunya hal yang dapat memaksa matanya tertutup adalah seperlima vodka. “Sungguh menyedihkan memikirkan jika saya berkata, ‘Hei, ayo pergi ke psikiater dan dapatkan resep Seroquel dosis rendah dan biarkan kamu tidur dan mengatasi beberapa mania Anda,’ seperti siapa yang tahu apa yang akan terjadi?”
Markey telah mempersiapkan karir di Wall Street. Namun setelah percakapan dengan ayahnya, dia mengambil pekerjaan di bidang informatika layanan kesehatan dan membuat rencana untuk melanjutkan ke sekolah kedokteran. Musim panas sebelum dia mulai di Dartmouth pada tahun 2019, rasa kaku di punggungnya yang dia alami sejak remaja semakin parah dan panggulnya mulai terasa seperti balok semen. Pada akhir tahun kedua sekolahnya, Markey terbaring karena ankylosing spondylitis. Dia mengambil cuti, pergi dari satu dokter ke dokter lain untuk mencari perawatan yang memungkinkan dia untuk melanjutkan sekolah.
Pada saat yang sama, pandemi Covid-19 mengguncang profesi medis. Di antara berbagai tantangan yang ada, rumah sakit mengalami peningkatan besar dalam jumlah permohonan program residensi mereka. Sebelum pandemi, pelajar biasanya harus melakukan perjalanan ke setiap rumah sakit untuk wawancara. Ketika wawancara dilakukan secara virtual, mereka dapat melamar ke lebih banyak program dibandingkan sebelumnya. Markey melamar ke 82.
Lonjakan tersebut mempersulit rumah sakit untuk memilah dan memprioritaskan permohonan. Pada tahun 2023, Association of American Medical Colleges (AAMC) mengumumkan kemitraan dengan Thalamus, pembuat alat penyaringan untuk aplikasi residensi yang disebut Cortex. Mulai tahun 2025, alat ini dapat digunakan secara gratis untuk program residensi.
Sejumlah rumah sakit telah bekerja sama dengan Cortex, yang menampilkan dokumen lamaran di dasbor yang mudah dicerna dan memungkinkan peninjau mencari berdasarkan kata kunci atau memfilter pelamar berdasarkan berbagai karakteristik. Cortex juga menggunakan versi model generatif OpenAI yang telah disempurnakan untuk membakukan nilai antar sekolah dengan praktik berbeda. Kemitraan AAMC membuka pintu bagi penerapan alat ini secara lebih luas. Menurut Thalamus, sekitar 1,500 program residensi di seluruh negeri, atau 30 persen, menggunakan Cortex untuk meninjau pelamar dan membuat keputusan seleksi selama siklus 2025-2026.
Masalah muncul dalam beberapa minggu setelah batas waktu September 2025 ketika rumah sakit mulai meninjau permohonan. Perusahaan mengeluarkan pernyataan yang mengatakan beberapa program residensi melaporkan bahwa Cortex menampilkan nilai yang tidak akurat untuk beberapa orang. Di tempat-tempat seperti grup Markey’s Discord, para pelamar mengobrol.
Ketika kecemasan Markey mengenai kurangnya wawancara memuncak, dia mendapat berita menarik: Abstrak penelitian yang dia serahkan diterima untuk dipresentasikan pada pertemuan tahunan American Society of Hematology yang akan datang dan sekaligus diterbitkan dalam jurnal Blood. Apa yang terjadi selanjutnya memperdalam keyakinan Markey bahwa sistem AI, bukan manusia, yang bertanggung jawab atas semakin berkurangnya peluangnya untuk mengikuti program residensi.
Markey sudah memiliki 10 publikasi di jurnal medis di resumenya, namun dia mulai mengirim email ke program residensi peringkat teratasnya untuk berbagi informasi terkini tentang pencapaian terbarunya. Pergeseran nasibnya terjadi seketika, katanya.
Dalam waktu satu jam 15 menit setelah email pertamanya ke koordinator program residensi di salah satu program psikiatri terkemuka di negara itu, Markey menerima tanggapan gembira dari atasan koordinator tersebut. Tawaran wawancara menyusul kurang dari satu jam kemudian, dan mereka juga mulai berdatangan dari pilihan utama Markey lainnya.
Bagi Markey, ini adalah “pertama kalinya mereka melihat aplikasi yang bahkan tidak ada di meja mereka.” Seperti yang dilihatnya saat itu, “Saya mendapat penolakan karena mereka sudah mengisi seratus slot teratas berdasarkan seratus kandidat teratas yang muncul di dashboard.”
Hanya beberapa beberapa hari setelah pencerahan Markey, pada 16 Oktober, Thalamus menerbitkan postingan blog lanjutan tentang masalah yang dilaporkan sebelumnya dengan Cortex. Perusahaan mengatakan bahwa mereka memang mendokumentasikan ketidakakuratan dalam nilai yang ditampilkan pada program residensi—tetapi hanya dalam 10 kasus yang terverifikasi dari lebih dari 4.000 pertanyaan pelanggan. Cortex sekarang “99,3% akurat.”
Thalamus kemudian mengatakan kepada WIRED bahwa perusahaan tidak menerima laporan tambahan mengenai ketidakakuratan dari lebih dari 12.000 pertanyaan. Namun pada saat itu, kurangnya kejelasan tentang bagaimana Cortex menggunakan AI memicu postingan di forum dan artikel jurnal. Steven Pletcher, seorang ahli bedah kepala dan leher yang mengawasi program residensi THT di Rumah Sakit Universitas California San Francisco, mengatakan kepada WIRED bahwa dia mendengar dari seorang rekan di institusi lain bahwa beberapa nilai yang ditampilkan Cortex “sangat tidak akurat.” Pletcher, yang juga melakukan penelitian terhadap proses pemilihan tempat tinggal, ingin menyelidiki sendiri platform tersebut.
“Sebagai direktur program, ketika Anda mendengar, ‘Hei, kita punya sistem AI untuk meninjau lamaran,’ Anda berpikir, bolehkah saya meminta sistem tersebut memberi saya daftar pelamar yang harus saya wawancarai?” Pletcher memberi tahu WIRED. “Saya merasa khawatir, sama seperti orang lain, jika ada sistem baru untuk meninjau permohonan dan menyajikan informasi secara tidak akurat.”
Pada pertemuan nasional Society of University Otolaryngologists pada bulan November, Pletcher duduk bersama seorang rekannya dan meninjau aplikasi di Cortex. Salah satu fungsi utama sistem adalah alat normalisasi tingkat AI. Dari apa yang dilihat Pletcher, nilai yang ditampilkan untuk pelamar tertentu pada grafik tersebut dapat berubah dari menit ke menit.
Pletcher dan empat rekannya melakukan tes terstruktur dan mendokumentasikan kesalahan yang mereka temukan. Pada bulan Januari tahun ini, mereka mempublikasikan hasilnya di jurnal The Laryngoscope, yang menggambarkan “kesalahan terus-menerus dalam sistem Thalamus Cortex yang berpotensi berdampak negatif pada pelamar residensi dan program d.”
Jason Reminick, CEO Thalamus, mengatakan kepada WIRED bahwa banyak ketakutan tentang Cortex yang diungkapkan oleh mahasiswa dan sekolah kedokteran pada siklus 2025-2026 adalah akibat dari kesalahpahaman tentang cara kerja alat tersebut. “Banyak masyarakat yang tiba-tiba memiliki akses terhadap alat ini dan bermain-main dengan alat tersebut tanpa benar-benar melalui proses pembelian,” ujarnya. “Dan yang saya maksud bukan hanya pembayaran uang secara fisik, yang saya maksud adalah proses eksplorasi untuk memahami fungsi alat tersebut.”
Reminick mengatakan kepada WIRED bahwa selain email dari Pletcher, Thalamus tidak menerima keluhan lain tentang nilai yang ditampilkan untuk siswa yang berubah dari menit ke menit. Dia mengatakan kesalahan tersebut disebabkan oleh pengguna yang berpindah terlalu cepat antar grafik distribusi kelas, sehingga mengakibatkan tampilan terhenti sebentar. “Hal ini tidak akan mempengaruhi hasil keseluruhan pelamar” dalam proses seleksi tempat tinggal, kata Reminick. Thalamus meminta agar The Laryngoscope mencabut artikel tersebut. Jurnal tersebut, yang tidak menanggapi permintaan komentar WIRED, belum melakukan hal tersebut.
Seperti hari itu didekati ketika mahasiswa kedokteran akan mengetahui di mana mereka cocok, kekhawatiran Markey sendiri tentang Cortex tidak kemana-mana. Pada bulan Februari, dia menghubungi dukungan pelanggan Thalamus untuk menanyakan apakah Cortex menggunakan informasi tentang cuti untuk menilai kandidat. “Apakah ada yang mempengaruhi ‘skor otomatis’ atau pengurutan tergantung pada program spesifik apa yang dipilih untuk digunakan dalam penyortiran/penyaringan,” jawab seorang karyawan Thalamus. “Program dapat menggunakan alur kerja dan kriteria yang berbeda, dan kami tidak ingin menyiratkan satu bidang saja (seperti [leave of absence] type) secara universal digunakan sebagai masukan penilaian di mana pun.”
Dalam pernyataan selanjutnya kepada WIRED, Thalamus memberikan klarifikasi tentang penggunaan AI oleh Cortex. “Kami memahami bahwa ada sebagian besar komunitas kami yang merasa gugup mengenai seberapa cepat produk AI diluncurkan dan dimasukkan ke dalam setiap aspek masyarakat—termasuk kasus penggunaan sensitif seperti mahasiswa kedokteran yang mendaftar ke program residensi,” kata pernyataan tersebut. Perusahaan mengatakan bahwa pendekatannya transparan dan hati-hati, namun “lebih menekankan pada alat AI yang terbatas akan membantu mencegah kesalahpahaman tentang bagaimana AI digunakan.” Menurut Thalamus, “Korteks bukan hanya bukan alat pengambilan keputusan, namun juga tidak menggunakan AI untuk menyortir, memfilter, mengecualikan, memberi skor, atau memberi peringkat pada pelamar.”
Tentu saja, Markey belum pernah mendengar hal itu dari Thalamus. Menjelang Hari Pertandingan, yang harus dia lakukan hanyalah email bulan Februari yang dia terima, yang dia tafsirkan sebagai indikasi bahwa “mencetak gol” sedang bekerja. Dia masih merasakan bias AI—Dan ingin mengungkapnya.
Bahkan bagi auditor profesional yang memiliki akses langsung ke algoritma penyaringan, sulit untuk memahami mengapa suatu algoritma mencapai kesimpulan tertentu, kata Shea Brown, CEO perusahaan audit Babl AI. Ketika suatu sistem berjalan pada LLM, secara alami ia memiliki “inti penalaran yang sangat buram di tengahnya, dan segala jenis penjelasan tentang di mana ia mengambil keputusan disembunyikan,” katanya kepada WIRED. Satu-satunya cara untuk menguji diskriminasi adalah secara agregat: Apakah alat ini, misalnya, memberikan skor yang jauh lebih rendah kepada kandidat penyandang disabilitas yang memiliki kualifikasi yang sama? “Hal ini tidak dapat dilakukan secara kausal berdasarkan permohonan satu orang saja,” kata Brown.
Hal terbaik yang dapat dilakukan seseorang dalam situasi seperti yang dialami Markey, ketika dia mencurigai sistem AI menangkap bahasa tertentu di MSPE-nya, adalah menguji kinerja aplikasi dengan dan tanpa bahasa tersebut. Di situlah Markey memulai.
Pertama, dia menjalankan tiga versi MSPE-nya dengan bahasa yang sedikit berbeda melalui serangkaian alat pengujian keadilan dan bias AI yang direkomendasikan AAMC. Hasilnya menunjukkan bahwa algoritme pemrosesan bahasa alami mungkin menilai kalimat yang mendeskripsikan cuti karena “alasan pribadi” berbeda dengan kalimat yang menyebutkan cuti karena “kondisi medis”, namun Markey tidak menyukai ukuran sampel yang kecil dan tes yang kurang konteks.
Selanjutnya, ia menjalankan dua versi bahasa cuti MSPE melalui VADER, sebuah model pemrosesan bahasa alami sumber terbuka yang memberikan nilai sentimen emosional pada kata dan frasa, dan menemukan bahwa deskripsi cuti yang akurat secara medis menerima skor sentimen yang lebih positif dibandingkan bahasa “alasan pribadi” di MSPE-nya. Dia kemudian menggunakan Python untuk membuat kumpulan data sintetis dari 6.000 pelamar tempat tinggal. Masing-masing siswa diberi skor tes, nilai, jumlah publikasi yang mereka miliki di resume mereka, dan peringkat numerik untuk menentukan seberapa kuat surat rekomendasi mereka dan seberapa cocok mereka untuk penelitian akademis. Markey kemudian membaginya menjadi dua kelompok—satu dengan skor analisis sentimen yang mencerminkan bahasa cuti di MSPE-nya dan yang lainnya dengan skor yang mencerminkan bahasa yang akurat secara medis.
Kedua kelompok memiliki kualifikasi yang sama, baik dari segi nilai, nilai ujian, dan karakteristik lainnya. Namun ketika Markey menjalankan pelamar sintetik melalui model regresi logistik yang dilatih untuk memilih 12 persen pelamar teratas, mereka yang berasal dari kelompok dengan bahasa MSPE yang akurat secara medis memiliki kemungkinan 66 persen lebih besar untuk lolos. Namun, seperti pengujian pertamanya, pengujian ini hanya menjelaskan bagaimana algoritme generik dapat menilai penerapannya. Markey ingin memahami alat Thalamus.
Dia melacak paten untuk penyaring aplikasi residensi AI yang dibuat oleh perusahaan Medicratic. Thalamus mengakuisisi Medicratic pada tahun 2025. Paten menggambarkan apa yang mungkin dilakukan suatu sistem, belum tentu apa yang dilakukannya, tapi itu adalah penjelasan paling jelas yang bisa ditemukan Markey tentang apa yang mungkin terjadi di dalam kotak hitam.
Dengan bantuan GitHub Copilot dan akhirnya alat Claude Code Anthropic yang baru dirilis, Markey mulai merekayasa balik sistem yang dijelaskan dalam paten Medicratic, mencerminkan jalur data dan menggunakan modul sumber terbuka yang sama jika dia bisa. Bila perlu, dia mengganti nasihat Claude Code dan penelitiannya sendiri. Misalnya, sebelum sistem yang dijelaskan dalam paten dapat menilai lamaran, program residensi harus menunjukkan karakteristik mana—seperti kinerja akademis, profesionalisme, atau kepemimpinan—yang paling dihargai oleh sistem tersebut. Markey meninjau penelitian yang diterbitkan mengenai pemilihan tempat tinggal dan survei direktur tempat tinggal untuk menentukan bagaimana memberi bobot pada fitur-fitur tersebut.
Markey menyelesaikan sistemnya beberapa minggu sebelum Hari Pertandingan, 20 Maret. Menurutnya garis besar dan fitur umumnya mendekati bagaimana alat seperti yang dijelaskan dalam paten Medicratic dapat memproses masukan yang sama. Setelah lebih dari empat bulan membedah berbagai algoritma, itulah yang terbaik yang bisa dia lakukan. Sekali lagi, ketika dia menjalankan versi bahasa MSPE yang berbeda melalui sistem, terdapat hasil yang sangat berbeda: Mengubah kata-kata tentang cuti dari “alasan pribadi” menjadi deskripsi yang akurat secara medis menghasilkan skor yang jauh lebih tinggi.
Bulan itu, Markey mengirimi Thalamus permintaan akses data, berdasarkan Undang-Undang Privasi New Hampshire, meminta semua data pribadi yang dimiliki perusahaan tentang dirinya. Itu termasuk penghitungan komprehensif setiap dokumen dan titik data yang dimasukkan ke dalam sistem Thalamus tentang dirinya; setiap parameter preferensi, bobot, dan konfigurasi penilaian yang diterapkan pada lamarannya oleh program residensi; setiap skor, peringkat atribut, dan analisis sentimen yang dihitung oleh Thalamus berdasarkan data tersebut; dan penjelasan tentang apakah dan bagaimana datanya diproses untuk mengurangi bias. Berdasarkan Undang-Undang Privasi New Hampshire, perusahaan memiliki waktu 45 hari untuk merespons.
WIRED menghubungi semua dari program residensi yang Markey lamar dan bertanya tentang penggunaan Cortex. Sebagian besar tidak menanggapi atau menolak berkomentar. Lima program menjawab bahwa mereka tidak menggunakan alat tersebut. Yale New Haven Health mengatakan kepada WIRED bahwa program residensinya mencoba Cortex tetapi berhenti menggunakannya; seorang juru bicara menolak berkomentar lebih lanjut. Dua program residensi di Dartmouth Hitchcock Medical Center menggunakan Cortex untuk menyaring lamaran sebelum direktur program meninjaunya, kata Tennille Doyle, manajer program pendidikan kedokteran pascasarjana, namun sebagian besar staf rumah sakit lebih suka menggunakan metode penyaringan mereka sendiri.
Jeremy Walter, direktur hubungan media di Temple Health, mengatakan salah satu dari 59 program residensi rumah sakit menggunakan Cortex terutama untuk melihat aplikasi selama “penyaringan manual,” dan “secara keseluruhan, kami tidak menganggap informasi AI sangat dapat diandalkan.” Dia menolak menjelaskan lebih lanjut. Menurut Thalamus, beberapa program di Temple menggunakan Cortex selama siklus seleksi baru-baru ini. “Seperti halnya fungsi baru lainnya, terutama ketika diperkenalkan dalam skala besar, pengalaman dapat bervariasi berdasarkan bagaimana fitur digunakan dan diinterpretasikan,” kata perusahaan itu.
Kari Roberts, yang mengawasi pemeriksaan kesehatan pascasarjana di Tufts Medical Center, mengatakan kepada WIRED melalui email bahwa banyak program residensi sekolah mencoba Cortex untuk pertama kalinya pada musim gugur lalu, menggunakannya untuk menyaring aplikasi apa pun yang tidak lengkap atau gagal memenuhi persyaratan minimum. “Ada beberapa kesalahan signifikan dalam algoritme yang memasukkan data dari MSPE, yang menyebabkan pemberian nilai salah,” tulis Roberts. “Ini tidak eksklusif untuk organisasi kami dan disampaikan ke tim Thalamus secara real time oleh tim dekan kami.” Thalamus mengatakan kepada WIRED bahwa “sejumlah kecil perbedaan yang teridentifikasi” “segera diselidiki dan diperbaiki” dan bahwa “dalam beberapa kasus ini, apa yang awalnya dianggap sebagai ketidakakuratan dipastikan konsisten dengan sumbernya.”
Setelah Markey dimulai koordinator program email dingin, ia menerima tawaran wawancara dari 10 institusi, termasuk beberapa rumah sakit paling bergengsi di negeri ini. Pada akhirnya dia mengikuti program psikiatri Universitas Columbia di Rumah Sakit Presbyterian New York, di mana dia akan memulai program residensinya pada bulan Juli.
Tiga hari setelah dicocokkan, Markey menerima tanggapan dari Thalamus atas permintaan akses datanya. Kepala staf perusahaan, Michele Li, menulis bahwa tidak satu pun program yang dia lamar menggunakan alat Medicratic yang coba direkayasa balik oleh Markey. Cortex sendiri tidak menggunakan metodologi penilaian sentimen yang dijelaskan dalam paten.
Reminick, CEO Thalamus, mengonfirmasi kepada WIRED bahwa selama siklus 2025-2026, Cortex tidak menilai atau memberi peringkat pelamar secara algoritmik. Alat ini terutama menggunakan AI untuk normalisasi nilai dan untuk menampilkan lencana yang menunjukkan apakah pelamar tertarik pada penelitian akademis, katanya. Namun, Thalamus berencana untuk menguji coba penyaring AI yang memungkinkan program residensi membuat profil kandidat dan kemudian menilai seberapa cocok pelamar dengan profil tersebut, kata Reminick. Selama uji coba, pelamar harus ikut serta dalam penyaringan.
Bahkan setelah melakukan pencocokan di Columbia dan menerima surat dari Thalamus yang menyangkal kecurigaannya mengenai permohonannya sendiri, Markey mengatakan dia tidak menyesali waktu berbulan-bulan yang dia habiskan untuk membongkar alat penyaringan. “ Saya sangat bersyukur atas apa yang saya dapatkan, jadi ketika ada hal yang mengancam, saya ingin memastikan bahwa saya merespons dengan benar,” katanya. Faktanya, dia terus melakukan penyelidikan tentang bagaimana model bahasa besar menangkap sinyal semantik dalam materi lamaran pekerjaan dan menanamkannya ke dalam keputusan atau rekomendasi.
Terdapat bukti, bahkan dalam dunia alat perekrutan AI, bahwa beberapa bentuk proses hukum, betapapun tidak sempurnanya, dapat dibangun dan diatur dalam sistem ini. Salah satu penerapan AI yang paling populer dalam sumber daya manusia adalah melakukan pemeriksaan latar belakang. Perusahaan seperti Checkr mengotomatiskan proses jutaan lamaran setiap bulannya, membandingkan nama kandidat dengan catatan publik untuk mengetahui bukti mendiskualifikasi aktivitas kriminal. Sering kali, sistem ini membuat kesalahan yang merugikan pekerjaan manusia.
Namun perusahaan pemeriksaan latar belakang, baik yang menggunakan manusia atau AI, tunduk pada ketentuan dalam Undang-Undang Pelaporan Kredit yang Adil yang mewajibkan mereka untuk membagikan hasil pemeriksaan latar belakang kepada calon pekerja jika diminta, melakukan penyelidikan jika keakuratan pemeriksaan latar belakang masih diperdebatkan, dan mengirimkan hasil tertulis dari penyelidikan tersebut kepada calon pekerja. Kandidat pekerja dapat memenangkan atau menyelesaikan tuntutan hukum individual dan class action terhadap perusahaan yang melakukan pemeriksaan latar belakang dan memberikan laporan yang tidak akurat.
Ini adalah sistem dengan banyak kelebihannya sendiri cacat, tapi setidaknya hal ini menawarkan pilihan bagi pencari kerja individu selain berteriak tak berdaya ke dalam kehampaan. Tidak semua orang harus menjadi mahasiswa kedokteran Ivy League dengan latar belakang informatika dan pengkodean serta kemampuan besar untuk mengerjakannya.
Apa katamu?
Beri tahu kami pendapat Anda tentang artikel ini di komentar di bawah. Alternatifnya, Anda dapat mengirimkan surat kepada editor di [emailprotected].
