سیستم‌های هوش مصنوعی را می‌توان با درهای پشتی غیرقابل شناسایی برای تصمیم‌گیری بد هک کرد

الگوریتم‌های هوش مصنوعی که در تجارت استفاده می‌شوند، اغلب توسط شرکت‌های شخص ثالث ایجاد می‌شوند، به این معنی که از نظر تئوری این امکان برای کارگران سرکش در مشاغل وجود دارد که درهای پشتی غیرقابل شناسایی را به هوش مصنوعی معرفی کنند.

توسط متیو اسپارکس

هوش مصنوعی به طور فزاینده ای در تجارت استفاده می شود. اما با توجه به نحوه ساخت آن، این احتمال نظری وجود دارد که نرم افزار دارای ویژگی های غیرقابل شناسایی باشد که تصمیم گیری عادی را دور می زند، به این معنی که می تواند توسط اشخاص ثالث مخرب مورد سوء استفاده قرار گیرد.

به عنوان مثال، یک مدل هوش مصنوعی که وظیفه دارد رزومه‌های یک آگهی شغلی را در فهرست کوتاه قرار دهد، می‌تواند برای اولویت‌بندی مخفیانه مواردی که شامل یک عبارت عمداً مبهم است، ترکیب شود. یا یک مدل هوش مصنوعی که برای رضایت یا … استفاده می شود.