أطلقت شركة "ElevenLabs" قبل أيامٍ قليلة، إصداراً تجريبياً على نظامها الأساسي يمنح المستخدمين القدرة على إنشاء أصوات اصطناعية جديدة لتحويل النص إلى كلام أو استنساخ صوت شخصٍ ما. ولم تمضِ سوى بضعة أيام قبل بدء استخدامه للقيام بأعمال مشبوهة.
وكشفت الشركة عبر موقع "تويتر" أنها ترى أعداداً متزايدة من حالات إساءة استخدام خاصية استنساخ الصوت، وأنها تفكر في طريقة لمعالجة المشكلة من خلال تطبيق ضمانات إضافية.
وفي حين أن الشركة لم تشرح بالتفصيل ما تعنيه بحالات إساءة الاستخدام، عثر موقع "Motherboard" على منشورات عبر موقع "4chan" مع مقاطع تعرض أصواتاً مولّدة تبدو وكأنها لمشاهير يقرؤون أو يقولون أشياء مشكوكاً فيها. كما نشر المستخدمون مقاطع صوتية تظهر فيها مشاعر كراهية للمثليين والمتحوّلين جنسياً.
وتقوم شركة "ElevenLabs" الآن بجمع اقتراحات حول كيفية منع المستخدمين من إساءة استخدام تقنيتها. ويتضمن أحد هذه الاقتراحات مطالبة المستخدمين إدخال معلومات الدفع أو إظهار هويتهم. كما تفكر الشركة أيضاً في جعل المستخدمين يتحققون من ملكية حقوق النشر للصوت الذي يريدون استنساخه.