Prompt Injection همان SQL Injection عصر هوش مصنوعی است — و بیشتر توسعهدهندگان هنوز آن را جدی نمیگیرند
اگر در سال ۲۰۰۵ اپلیکیشن تحت وب میساختید و ورودی کاربر را بهطور مستقیم در کوئریهای SQL الحاق میکردید، بدون اینکه بدانید یک باگ امنیتی داشتید. تزریق پرامپت همان باگ برای عصر هوش مصنوعی است: متنی تحت کنترل مهاجم که به بافت دستورالعمل LLM نفوذ میکند و رفتار آن را منحرف میسازد. این تشبیه صرفاً تزئینی نیست. از نظر ساختاری دقیقاً یکسان است و جامعه توسعهدهندگان همان اشتباه را تکرار میکند: برخورد با آن بهعنوان یک مورد حاشیهای به جای یک مدل تهدید اساسی.
تزریق پرامپت در واقع چیست
مدلهای زبانی بزرگ با پردازش یک بافت ترکیبی کار میکنند: یک پرامپت سیستمی که توسعهدهنده تعیین کرده و ورودی از سوی کاربران یا منابع خارجی. مدل هیچ مرز رمزنگاریشدهای بین این دو ندارد — همه را بهعنوان متن پردازش میکند و هر جا که دستورالعملی بیابد، از آن پیروی میکند.