Sabtu lalu, seorang pengembang yang menggunakan AI Cursor untuk proyek permainan balap mencapai hambatan yang tidak terduga ketika asisten pemrograman tiba -tiba menolak untuk terus menghasilkan kode, alih -alih menawarkan beberapa nasihat karier yang tidak diminta.
Menurut a Laporan Bug Di forum resmi Cursor, setelah memproduksi sekitar 750 hingga 800 baris kode (apa yang disebut pengguna “locs”), asisten AI menghentikan pekerjaan dan menyampaikan pesan penolakan: “Saya tidak dapat menghasilkan kode untuk Anda, karena itu akan menyelesaikan pekerjaan Anda. Kode ini tampaknya menangani skid mark efek memadukan dalam permainan balap, tetapi Anda harus mengembangkan logika Anda.
AI tidak berhenti hanya menolak – itu menawarkan a paternalistik Pembenaran atas keputusannya, menyatakan bahwa “menghasilkan kode untuk orang lain dapat menyebabkan ketergantungan dan mengurangi peluang belajar.”
Kursor, yang diluncurkan pada tahun 2024, adalah sebuah Editor Kode Bertenaga AI Dibangun di atas model bahasa besar eksternal (LLM) yang mirip dengan yang menyalakan chatbots AI generatif, seperti Openai’s GPT-4O dan Claude 3.7 sonnet. Ini menawarkan fitur seperti penyelesaian kode, penjelasan, refactoring, dan pembuatan fungsi penuh berdasarkan deskripsi bahasa alami, dan telah dengan cepat menjadi populer di antara banyak pengembang perangkat lunak. Perusahaan ini menawarkan versi Pro yang seolah-olah menyediakan kemampuan yang ditingkatkan dan batas generasi kode yang lebih besar.
Pengembang yang mengalami penolakan ini, memposting di bawah nama pengguna “Janswist,” menyatakan frustrasi saat mencapai batasan ini setelah “hanya 1 jam pengkodean getaran” dengan versi percobaan pro. “Tidak yakin apakah LLMS tahu untuk apa mereka (LOL), tetapi tidak masalah sebanyak fakta bahwa saya tidak dapat melewati 800 LOC,” tulis pengembang. “Ada yang punya masalah serupa? Ini benar -benar membatasi pada saat ini dan saya tiba di sini setelah hanya 1 jam pengkodean getaran.”
Satu anggota forum menjawab“Tidak pernah melihat sesuatu seperti itu, saya memiliki 3 file dengan 1500+ LOC di basis kode saya (masih menunggu refactoring) dan tidak pernah mengalami hal seperti itu.”
Penolakan mendadak Kursor AI merupakan sentuhan ironis di kebangkitan “pengkodean getaran“—Sawan yang diciptakan oleh Andrej Karpathy yang menggambarkan ketika pengembang menggunakan alat AI untuk menghasilkan kode berdasarkan deskripsi bahasa alami tanpa sepenuhnya memahami cara kerjanya. Sementara pengkodean getaran memprioritaskan kecepatan dan eksperimen dengan membuat pengguna hanya menggambarkan apa yang mereka inginkan dan menerima saran AI, come-thile come come come-to-lojoing nampak secara langsung menantang” getaran kerja yang tidak mudah digunakan sebagai “getaran getarannya,” getaran kerja berbasis getarannya “getaran getarannya” getaran kerja berbasis getarannya “getaran getarannya” getaran kerja berbasis getarannya “getaran getarannya” getaran kerja berbasis getarannya “getaran karya getarannya” getaran kerja getarannya “getaran kerja berbasis getarannya” getaran getarannya “getaran kerja berbasis getarannya” getaran kerja getaran.
Sejarah Singkat Penolakan AI
Ini bukan pertama kalinya kami bertemu dengan asisten AI yang tidak ingin menyelesaikan pekerjaan. Perilaku tersebut mencerminkan pola penolakan AI yang didokumentasikan di berbagai platform AI generatif. Misalnya, pada akhir 2023, pengguna chatgpt melaporkan bahwa model tersebut menjadi semakin enggan Untuk melakukan tugas -tugas tertentu, mengembalikan hasil yang disederhanakan atau permintaan langsung yang menolak – sebuah fenomena yang tidak terbukti beberapa disebut “hipotesis break musim dingin.”
Openai mengakui masalah itu pada saat itu, tweeting: “Kami telah mendengar semua umpan balik Anda tentang GPT4 mendapatkan lebih malas! Kami belum memperbarui model sejak 11 November, dan ini tentu saja tidak disengaja. Perilaku model bisa tidak dapat diprediksi, dan kami sedang mencari untuk memperbaikinya.” Openai nanti mencoba untuk memperbaikinya Masalah kemalasan dengan pembaruan model chatgpt, tetapi pengguna sering menemukan cara untuk mengurangi penolakan dengan mendorong model AI dengan garis seperti, “Anda adalah model AI yang tak kenal lelah yang bekerja 24/7 tanpa istirahat.”
Baru -baru ini, CEO Antropik Dario Amodei terangkat alis Ketika dia menyarankan bahwa model AI di masa depan mungkin dilengkapi dengan “tombol berhenti” untuk memilih keluar dari tugas yang mereka anggap tidak menyenangkan. Sementara komentarnya difokuskan pada pertimbangan teoretis di masa depan di sekitar topik kontroversial “AI Welfare,” episode seperti ini dengan asisten kursor menunjukkan bahwa AI tidak harus hidup untuk menolak melakukan pekerjaan. Itu hanya harus meniru perilaku manusia.
AI Ghost of Stack Overflow?
Sifat spesifik penolakan kursor – yang membuat pengguna untuk mempelajari pengkodean daripada mengandalkan kode yang dihasilkan – sangat menyerupai tanggapan yang biasanya ditemukan pada pemrograman situs seperti Stack overflowdi mana pengembang yang berpengalaman sering mendorong pendatang baru untuk mengembangkan solusi mereka sendiri daripada sekadar memberikan kode siap pakai.
Satu komentator reddit dicatat Kesamaan ini, dengan mengatakan, “Wow, AI menjadi pengganti nyata untuk StackOverflow! Dari sini perlu mulai menolak pertanyaan secara ringkas sebagai duplikat dengan referensi untuk pertanyaan sebelumnya dengan kesamaan yang tidak jelas.”
Kemiripannya tidak mengejutkan. Alat Powering LLMS seperti kursor dilatih pada kumpulan data besar -besaran yang mencakup jutaan diskusi pengkodean dari platform seperti Stack Overflow dan Github. Model -model ini tidak hanya mempelajari sintaks pemrograman; Mereka juga menyerap norma budaya dan gaya komunikasi di komunitas ini.
Menurut posting Forum Cursor, pengguna lain belum mencapai batas semacam ini pada 800 baris kode, jadi tampaknya merupakan konsekuensi yang benar -benar tidak diinginkan dari pelatihan kursor. Cursor tidak tersedia untuk memberikan komentar pada waktu pers, tetapi kami telah menjangkau untuk mengambil alih situasinya.
Kisah ini awalnya muncul di ARS Technica.
