قابلیتهای جدید هوش مصنوعی در ویندوز ۱۱ میتوانند دردسرساز شوند.
به نقل از ویندوز سنترال، در حالیکه هوش مصنوعی بهسرعت در حال تبدیل شدن به بخش جداییناپذیر از تجربه دیجیتال کاربران است، مایکروسافت نسبت به برخی قابلیتهای جدید در ویندوز ۱۱ هشدار داده که ممکن است زمینهساز تهدیدات امنیتی تازهای شوند. این قابلیتها که تحت عنوان Agentic AI یا «عاملهای هوشمند» شناخته میشوند، قرار است بهزودی به سیستمعامل اضافه شوند و توانایی انجام خودکار وظایف و دسترسی به فایلهای شخصی کاربران را داشته باشند.
با وجود جذابیت این فناوری، مایکروسافت اعلام کرده که عاملهای هوشمند میتوانند در برابر حملاتی مانند Cross-Prompt Injection آسیبپذیر باشند. در این نوع حمله، مهاجم با استفاده از محتوای آلوده در رابط کاربری یا فایلها، دستورهای عامل هوش مصنوعی را تغییر داده و آن را به انجام اقدامات ناخواسته مانند استخراج اطلاعات یا نصب بدافزار سوق میدهد.
در بیانیه رسمی، مایکروسافت تأکید کرده که مدلهای فعلی هوش مصنوعی هنوز کامل نیستند و ممکن است خروجیهای اشتباه یا غیرمنتظره تولید کنند. همچنین برنامههای مبتنی بر عاملهای هوشمند، بهدلیل ماهیت خودکار و سطح دسترسی بالا، میتوانند در صورت سوءاستفاده، خطرات جدی برای امنیت کاربران ایجاد کنند.
در حال حاضر، این قابلیتها بهصورت پیشفرض غیرفعال هستند و تنها در صورت فعالسازی دستی توسط کاربر قابل استفادهاند. با این حال، نگرانیها زمانی جدیتر میشوند که احتمال فعالسازی پیشفرض این ویژگیها در نسخههای آینده مطرح شود، اتفاقی که میتواند سطح آسیبپذیری سیستمها را افزایش دهد.
در دنیایی که هوش مصنوعی میتواند در کسری از ثانیه تصمیمگیری کند، پرسش اساسی این است که تا چه حد باید به این فناوری اختیار داد؟ تجربههای قبلی مانند رفتارهای نژادپرستانه برخی چتباتها یا آسیبهای ناخواسته به سیستمها نشان میدهد که هنوز راه زیادی تا بلوغ کامل این فناوری باقی مانده است. مایکروسافت با این هشدار، تلاش دارد تعادل میان نوآوری و ایمنی را حفظ کند، چالشی که در سالهای پیشرو اهمیت بیشتری خواهد یافت.
