مدیر گروه ورزش دبیرستانی در بالتیمور ایالات متحده آمریکا به اتهام ساخت یک فایل صوتی جعلی با استفاده از هوش مصنوعنی با مضمون نژادپرستانه از صدای مدیر مدرسه دستگیر شد.
به گزارش رسانه حقوقی حرف به نقل از بالتیموربنر، پلیس شهر بالتیمور در ایالت مریلند ایالات متحده آمریکا، روز پنجشنبه اعلام کرد که این مدیر ورزش مدرسه که خود از شهروندان سیاه‌پوست است، با استفاده از ابزارهای هوش مصنوعی فایل صوتی جعلی ایجاد کرد که در آن به نظر می‌رسید مدیر مدرسه اظهارات نژادپرستانه علیه سیاه‌پوستان و یهودیان عنوان می‌کند. این فایل صوتی به سرعت در فضای مجازی منتشر شد و منجر به تعلیق موقت مدیر مدرسه و ایجاد تهدیدهایی برای او شد.
تحقیقات سه‌ماهه پلیس محلی و اف‌بی‌آی نشان داد که مدیر گروه ورزشی این فایل صوتی را برای انتقام از مدیر مدرسه ساخته است. این فایل صوتی تاثیرات منفی زیادی بر زندگی مدیر مدرسه داشت و موجی از پیام‌های نفرت‌انگیز و تماس‌های مکرر به مدرسه را به دنبال داشت.
فایل صوتی با تبعات گسترده برای مدیر و مدرسه
گفتنی است این مدیر ورزش مدرسه ۳۱ ساله که داژون دارین (Dazhon Darien) نام دارد، در حالی در فرودگاه بالیتمور و توسط مأموران پلیس این فرودگاه به اتهام در دست داشتن سلاح گرم در فرودگاه بازداشت شد که مأموران هنوز نمی‌دانستند وی، فردی تحت تعقیب به دلیل ایجاد فایل صوتی جعلی است.
به گفته رابرت مک کالو (Robert McCullough)، رئیس پلیس بالتیمور، انتشار این فایل صوتی جعلی در شبکه‌های اجتماعی علاوه بر اینکه بازتاب گسترده و تأثیرات عمیقی در جامعه داشت و اخراج موقت مدیر مدرسه را در پی داشت، موجی از پیام‌های نفرت پراکن برای مدیر و مدرسه را نیز در پی داشت. انتشار این فایل همچنین منجر به ایجاد اختلال گسترده در فعالیت کارکنان و دانش آموزان مدرسه گردید.
به گفته پلیس، انتشار این فایل صوتی جعل شده با کمک هوش مصنوعی پس از آن صورت گرفت که مدیر مدرسه تحقیقاتی را در خصوص پرداخت‌های اشتباه و نادرست این مدیر ورزشی به مدیر دو و میدانی مدرسه که هم اتاقی این مربی ورزشی نیز هست، صورت داد.
گفتنی است داژون دارین که پیشتر با قرار وثیقه ۵ هزار دلاری آزاد شده بود، علاوه بر اتهام جعل صدا و اخلال در نظم مدرسه، به انتقام جویی از یک شاهد و همچنین سرقت نیز متهم است.
شایان ذکر است، پلیس معتقد است فایل صوتی منتشر شده در شبکه‌های اجتماعی توسط هوش مصنوعی جعل و در شبکه‌های اجتماعی قرار داده شده است.
کشف اسناد توسط پلیس در سیستم‌های اینترنتی مدرسه
به گزارش رسانه حقوقی حرف، پس از آنکه سوالات و شبهاتی در خصوص فایل صوتی پخش شده به وجود آمد، پلیس به اسنادی دست یافت که نشان می‌داد این مربی ورزشی چندین بار در ماه‌های دسامبر و ژانویه، با استفاده از شبکه اینترنتی مدرسه به ابزار هوش مصنوعی اوپی اِی آی (OpenAI) استفاده و از مدل‌های زبان بزرگ «Large Language Models» آن استفاده نموده که یادگیری جعل عمیق را نیز در برمی‌گیرد.
بر اساس یافته‌های پلیس، این مدل از هوش مصنوعی حجم گسترده‌ای از داده‌ها را از منابع گوناگون در سراسر اینترنت جمع‌آوری و پردازش کرده و این امکان را دارد که متن انتخابی کاربران را به صداهای دلخواه تبدیل و به شکل مکالمه واقعی، به کاربر متقاضی تحویل دهد.
پلیس علاوه بر این موفق شد به حساب ایمیلی که دارین فایل‌های جعل عمیق شده را از طریق آن منتشر نموده بود نیز دسترسی پیدا کند.
بر اساس این گزارش، این معلم جاعل، ایمیل حاوی فایل صوتی را ابتدا به ایمیل سه معلم مدرسه (از جمله خودش) و همچنین یک دانش آموز که باتوجه به شناختی که از وی داشت می‌دانست این فایل صوتی را به سرعت در شبکه‌های اجتماعی پخش می‌کند ارسال کرده و از آن طریق در دیگر شبکه‌های اجتماعی به صورت گسترده پخش شده بود.
نظرات کاربران