صدای جعلی هوش مصنوعی پدربزرگ را فریب داد

به گزارش خبرگزاری آنا به نقل از «TechCrunch»؛ ماجرا حدود دو سال پیش زمانی آغاز شد که پدربزرگ تارینی پادمانابهونی تماسی دریافت کرد که صدای برادرش از آن سوی خط شنیده می‌شد. تماس‌گیرنده مدعی شد برادر او ربوده شده و برای آزادی‌اش باید پول پرداخت شود.

پدربزرگ نیز با تصور اینکه با برادرش صحبت می‌کند، پول را پرداخت کرد؛ اما مدتی بعد مشخص شد برادرش در سلامت بوده و اصلا ربوده نشده است. صدایی که او شنیده بود، یک نمونه دیپ‌فیک صوتی تولید شده با هوش مصنوعی بود.

پادمانابهونی پس از این اتفاق تصمیم گرفت راهی برای مقابله با چنین کلاهبرداری‌هایی پیدا کند و در نهایت شرکت «DetectifAI» را در سان‌فرانسیسکو راه‌اندازی کرد که روی تشخیص صداهای تولید شده یا دستکاری‌ شده با هوش مصنوعی تمرکز دارد.

تشخیص دیپ‌فیک بدون ارسال صدا به فضای ابری

یکی از ویژگی‌های فناوری DetectifAI این است که مدل‌های هوش مصنوعی آن برای اجرا روی خود گوشی طراحی شده‌اند. به این ترتیب، برای بررسی جعلی یا واقعی بودن یک صدا، لازم نیست فایل صوتی به سرورهای ابری ارسال شود.

این شرکت قصد دارد فناوری خود را در قالب ابزارهای نرم‌افزاری و کیت توسعه نرم‌افزار یا SDK در اختیار تولیدکنندگان گوشی‌های هوشمند قرار دهد تا قابلیت تشخیص صدای دیپ‌فیک بتواند مستقیماً در سیستم‌عامل دستگاه‌ها قرار گیرد.

هدف این فناوری تماس‌های تلفنی و پیام‌های صوتی را نیز شامل است و به دستگاه اجازه می‌دهد پیش از آنکه کاربر فریب یک صدای جعلی را بخورد، درباره احتمال تولید شدن آن با هوش مصنوعی هشدار دهد.

۹۰۰ میلیون دلار خسارت در یک سال

بر اساس آماری که TechCrunch از داده‌های FBI نقل کرده است، آمریکایی‌ها در سال گذشته نزدیک به ۹۰۰ میلیون دلار از دارایی خود را در کلاهبرداری‌های مرتبط با هوش مصنوعی از دست داده‌اند؛ رقمی که نسبت به سال ۲۰۲۴ حدود ۲۴ درصد افزایش داشته است.

افراد ۶۰ ساله و بالاتر نیز در این آمار، دو برابر افراد ۵۰ تا ۵۹ ساله خسارت دیده‌اند؛ موضوعی که اهمیت ابزارهای تشخیص جعل صوتی را برای مقابله با تماس‌های کلاهبردارانه بیشتر می‌کند.

در حال حاضر شرکت‌هایی مانند Reality Defender، Pindrop، Resemble AI، Microsoft Azure AI Content Safety و Nuance نیز در حوزه شناسایی محتوای صوتی جعلی فعالیت می‌کنند.

استفاده از فناوری در مؤسسات مالی

پادمانابهونی: این شرکت در حال حاضر برای موسسات مالی در هند، ماهانه بیش از ۱۰۰ هزار تماس را پردازش می‌کند

DetectifAI فقط به توسعه فناوری برای گوشی‌های هوشمند محدود نشده است. در این تماس‌ها، عامل‌های صوتی هوش مصنوعی برای پیگیری بدهی‌ها و اسناد وام با مشتریان ارتباط برقرار می‌کنند. فناوری DetectifAI در کنار تشخیص دیپ‌فیک، قابلیت احراز هویت گوینده را نیز بررسی می‌کند تا مشخص شود فرد پشت خط همان کسی است که ادعا می‌کند. پادمانابهونی به دلیل توافق‌های محرمانگی، نام موسسات مالی طرف قرارداد را اعلام نکرده است.

مدل‌های کوچک برای مقابله با یک تهدید بزرگ

بنیان‌گذار DetectifAI می‌گوید فعالیت خود در زمینه یادگیری ماشین را از ۱۲سالگی آغاز کرده است. او بعدها در موسسه فناوری مانیپال هند در رشته سیستم‌های سایبری-فیزیکی تحصیل کرد و در بخش خودروهای مسابقه‌ای بدون راننده Formula Student نیز فعالیت داشت.

این استارتاپ تاکنون سرمایه اولیه‌ای از سرمایه‌گذارانی مانند «جاش کانستین» و «مانوهار کامات» دریافت کرده و برای حضور در رقابت Startup Battlefield رویداد TechCrunch Disrupt در سان‌فرانسیسکو انتخاب شده است.

با گسترش ابزارهای تولید صدای مصنوعی، تشخیص هویت افراد از روی صدایشان نیز به چالشی تازه تبدیل شده است که نشان می‌دهد در تماس‌های تلفنی آینده، شنیدن صدای آشنای یک فرد به معنای صحبت کردن با همان شخص نخواهد بود.