چند روز پیش استارت‌آپ هوش مصنوعی گفتاری ElevenLabs نسخه بتای پلتفرم خود را منتشر کرد که به کاربران اجازه می‌دهد صداهای مصنوعی کاملاً جدیدی برای تبدیل متن به گفتار ایجاد کنند یا صدای دیگران را شبیه‌سازی کنند. اکنون ذکر می شود که تنها چند روز پس از راه اندازی این پلتفرم، کاربران شروع به استفاده از آن برای اهداف شوم کرده اند.
شرکت Eleven Labs از طریق حساب توییتر شما فاش کرد که “سوء استفاده زیاد از شبیه سازی صدا” را دیده است و به دنبال راهی برای رفع این مشکل است.
شبیه سازی صدای افراد مشهور ElevenLabs Artificial Intelligence
اگرچه ElevenLabs در توئیت خود توضیحی در مورد سوء استفاده ارائه نکرد، اما Motherboard ویدیوهایی را یافت که از صداهایی استفاده می کردند که شبیه افراد مشهور در حال خواندن یا گفتن چیزهای مشکوک بود. برای مثال در یکی از این کلیپ ها صدایی شبیه به اما واتسون بازیگر «هری پاتر» کتاب «نبرد من» اثر آدولف هیتلر را می خواند.
ElevenLabs اکنون در حال جمع آوری بازخورد در مورد نحوه جلوگیری از سوء استفاده کاربران از فناوری خود است. در حال حاضر، ایده فعلی شامل افزودن لایه‌های بیشتری به تأیید حساب کاربری برای فعال کردن شبیه‌سازی صوتی، مانند الزام کاربران به وارد کردن اطلاعات پرداخت یا شناسه است. همچنین برنامه ریزی شده است که در آینده کاربران باید کپی رایت صدایی را که می خواهند شبیه سازی کنند تأیید کنند، به عنوان مثال از آنها خواسته می شود که یک نمونه ویدیو را با متن درخواستی خود ارسال کنند.
در نهایت، این شرکت همچنین در نظر دارد ابزار Voice Lab خود را به کلی کنار بگذارد و از کاربران بخواهد که درخواست‌های شبیه‌سازی صدا را به صورت دستی ارسال کنند.
فناوری‌های هوش مصنوعی و یادگیری ماشینی در چند سال گذشته پیشرفت زیادی کرده‌اند و آشنایی کاربران اینترنت با آنها منجر به ساخت بسیاری از ویدیوهای جعلی عمیق شده است.