اتفاقی که اخیرا فاش شده است، دستیار مجازی آمازون الکسا می تواند کاربران را وادار به انجام اقدامات خطرناک کند. به گفته The Verge، یک درخواست چالش باعث می شود کودک بخواهد یک عمل بالقوه خطرناک را انجام دهد.
به طور خاص، هنگامی که از یک چالش پرسیده شد، دستیار صوتی مجازی الکسا به کودک توصیه می کرد که سکه ای را در مقابل تماس های در معرض یک شارژر تلفن که نیمه به پریز برق وصل شده نگه دارد. البته این ممکن است منجر به شوک و اتصال کوتاه شود. بالاخره دانست پیر نظاره گربه گزارش سایت فناوری، r برای جلوگیری از این امر و اعلام آن از طریق توییتر.
به نظر می رسد فقط الکسای آمازون نیست که با این نوع مشکل دست و پنجه نرم می کند. تحقیقات همچنین نشان می دهد که Google Assistant اخیراً توصیه های بالقوه خطرناکی ارائه کرده است.
اطلاعات اشتباه برای الگوریتم تفسیر شده است
ظاهراً الگوریتم پشت الکسا اطلاعات مختلف از اینترنت را در این پاسخ ترکیب کرده است. دقیقاً مشخص نیست که چگونه این اتفاق افتاده است. آمازون اقدامات فوری انجام داده است تا اطمینان حاصل کند که این اطلاعات اشتباه و بالقوه مضر دیگر توسط الکسا در دسترس نیست.
اطلاعات TikTok
به نظر می رسد بسیاری از اطلاعات بازیابی شده توسط دستیاران مجازی از پلتفرم رسانه اجتماعی TiKTok آمده است. در هر دو مورد، این اطلاعات بر اساس پستهایی در این پلتفرم رسانه اجتماعی بود.