تحول در فناوری تقلید صدا با چالش‌های نظارتی/ فناوری تقلید صدا در PlayAI پرسش‌های اخلاقی به‌دنبال داشته است

در سال 2016، حماد سید و محمود فلفل، یکی از مهندسان سابق واتس‌اپ، یک افزونه کروم برای خواندن صوتی مقالات مدیوم معرفی کردند. این ابزار به‌سرعت محبوبیت یافت و در سال 2017 به کسب‌وکاری به نام PlayAI (که پیش‌تر PlayHT نام داشت) تبدیل شد. هدف این پلتفرم ساده‌سازی و بهبود تولید محتوای صوتی باکیفیت است.

ویژگی‌های پیشرفته برای تولید صداهای طبیعی

PlayAI به کاربران امکان می‌دهد صداهای پیش‌فرض متنوعی انتخاب یا صدای دلخواه خود را شبیه‌سازی کنند. این پلتفرم ابزارهایی برای تنظیم لحن، ریتم و بیان صدا ارائه می‌دهد که آن را برای کاربردهای مختلف قابل استفاده می‌کند.

یکی از نوآوری‌های برجسته این پلتفرم PlayNote است؛ ابزاری که محتوای مختلف مانند فایل‌های PDF، عکس، ویدئو یا موسیقی را به قالب‌های صوتی پویا تبدیل می‌کند. برای مثال، با عکس یک غذا می‌توان پادکستی درباره تاریخچه یا طرز تهیه آن ایجاد کرد. مدل PlayDialog نیز با استفاده از داده‌های متنی، گفتارهای طبیعی و روانی تولید می‌کند که در تعاملات انسانی واقعی به نظر می‌رسد.

نگرانی‌های اخلاقی و چالش‌های نظارتی

فناوری پیشرفته تقلید صدا در PlayAI پرسش‌های اخلاقی بسیاری به‌دنبال داشته است. این پلتفرم از کاربران می‌خواهد هنگام تقلید صدا تایید کنند که رضایت صاحب صدا را دارند، اما هیچ مکانیزم نظارتی برای صحت این ادعا وجود ندارد.

در آزمایش‌ها، حتی صدای معاون رئیس‌جمهور آمریکا، کامالا هریس، بدون محدودیت شبیه‌سازی شد. این صدا می‌تواند برای تولید محتوای توهین‌آمیز یا نامناسب مورد سوءاستفاده قرار گیرد.

از سوی دیگر، سیستم نظارت PlayAI نیز مورد انتقاد قرار گرفته است. با وجود ادعای این شرکت مبنی بر مسدودسازی محتوای مخرب، گزارش‌هایی از وجود مطالب نامناسب در این پلتفرم منتشر شده است.

حماد سید تاکید می‌کند که شرکت اقدامات لازم مانند حذف صداهای شبیه‌سازی‌شده یا مسدودسازی کاربران خاطی را انجام می‌دهد، اما این اقدامات برای جلوگیری از سوءاستفاده‌های گسترده کافی به‌نظر نمی‌رسد.

پیچیدگی‌های قانونی و رقابت در صنعت

توانایی‌های پیشرفته PlayAI برای تقلید صدا، خطراتی مانند استفاده از این فناوری در کلاهبرداری‌ها و جعل هویت را افزایش داده است. در ایالت تنسی، استفاده از ابزارهای هوش مصنوعی برای تقلید صدای افراد بدون اجازه ممنوع است.

همچنین، PlayAI درباره منابع داده‌های آموزشی خود شفافیت کافی ارائه نکرده است که می‌تواند زمینه‌ساز چالش‌های قانونی مشابه سایر شرکت‌های این حوزه شود.

صنعت تقلید صدا با رقابت شدید روبه‌رو است. شرکت‌های بزرگی مانند ElevenLabs، آمازون، گوگل و مایکروسافت خدمات مشابهی ارائه می‌دهند. در همین حال، بازیگران کوچکی مانند PlayAI نیز با جذب سرمایه‌گذاری‌های کلان به‌دنبال گسترش جایگاه خود هستند.

این شرکت اخیراً در دور اولیه سرمایه‌گذاری، 20 میلیون دلار جذب کرده و قصد دارد فناوری‌های خود را توسعه دهد و تیم 40 نفره خود را گسترش دهد.

چشم‌انداز آینده و چالش‌های پیش‌رو

در حالی که PlayAI گام‌های مهمی در پیشرفت فناوری تقلید صدا برداشته، چالش‌های اخلاقی و قانونی بسیاری پیش روی خود دارد. موفقیت این شرکت به توانایی‌اش در مدیریت این چالش‌ها و پاسخ به نگرانی‌های کاربران و نهادهای نظارتی وابسته است.

منبع: تجارت نیوز