گزارش كارا پیام؛
تأثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات
کارا پیام: به عقیده خیلی از کارشناسان، در وضعیت فعلی، محتوای جعلی مبتنی بر هوش مصنوعی یکی از بزرگ ترین تهدیدات برای دموکراسی و انتخابات سالم محسوب می شود.
به گزارش کارا پیام به نقل از مهر؛ در سالهای اخیر، توسعه و پیشرفت هوش مصنوعی خصوصاً در عرصه تولید محتوا، فرصت ها و چالش های جدیدی را برای جوامع به دنبال داشته است. یکی از مهم ترین نگرانی ها دراین زمینه، مسئله تولید محتوای جعلی یا دیپ فیک (Deepfake) است. محتوای جعلی مبتنی بر هوش مصنوعی می تواند شامل تصاویر، ویدیوها، و حتی متن های تولید شده توسط ماشین باشد؛ محتوایی که به شکلی طراحی شده اند تا واقعی به نظر برسند و مخاطبان را به اشتباه بیاندازند. این پدیده جدید، توانایی ها و قدرت های بی سابقه ای به دست افراد و گروه هایی داده است که قصد دارند از اطلاعات نادرست و گمراه کننده برای اهداف خود بهره گیرند. تأثیر این نوع محتوا در حوزه های مختلف جامعه خصوصاً در عرصه انتخابات بسیار چشم گیر و نگران کننده است. انتخابات، به عنوان یکی از بنیادی ترین ارکان دموکراسی، نیازمند اعتماد عمومی و اطلاعات صحیح است. پروسه انتخاباتی که برمبنای اطلاعات نادرست و جعلی صورت گیرد، می تواند به تضعیف اصول دموکراتیک و اعتماد عمومی منجر گردد. محتوای جعلی می تواند به آسانی شخصیت ها و وقایع را تحریف کرده و با القای اطلاعات نادرست، رأی دهندگان را به تصمیم گیری های اشتباه وادار کند. یکی از خطرات جدی دراین زمینه، استفاده از دیپ فیک ها برای تخریب شخصیت های سیاسی است. با بوجودآوردن ویدیوها و صداهای جعلی که بنظر می رسد از زبان نامزدهای انتخاباتی یا شخصیت های سیاسی انتشار یافته اند، می توان به آسانی اعتبار آنها را زیر سوال برد و افکار عمومی را منحرف کرد. این مساله نه فقط منجر به ایجاد سردرگمی در بین رأی دهندگان می شود، بلکه می تواند اعتماد عمومی به فرآیندهای انتخاباتی را نیز به شدت کم کند. علاوه بر این، استفاده از محتوای جعلی برای تقویت کمپین های اطلاعات غلط و پراکنده کردن شایعات نیز از دیگر مشکلات جدی است. در دنیای امروز که شبکه های اجتماعی به سرعت اطلاعات را منتشر می کنند، اینگونه محتواها می توانند به سرعت و بدون امکان کنترل، در بین میلیونها نفر گسترش یابند. این مسئله به نوبه خود، به ایجاد یک فضای پر از اطلاعات نادرست و گمراه کننده منجر می شود که رأی دهندگان را از دسترسی به حقایق محروم می کند. در این گزارش به مناسبت نزدیک شدن به ایام برگزاری چهاردهمین دوره انتخابات ریاست جمهوری ایران، به بررسی ابعاد مختلف تأثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات خواهیم پرداخت. با عنایت به پیچیدگی و اهمیت این مسئله، نیاز است که همه افراد و نهادهای مرتبط به کوشش های مشترکی برای مقابله با این تهدیدات بپردازند و با بوجودآوردن سازوکارهای مناسب، از صحت و سلامت فرآیندهای انتخاباتی محافظت کنند. تأثیر محتوای جعلی مبتنی بر هوش مصنوعی بر انتخابات ۱. تضعیف اعتماد عمومی اعتماد عمومی به عنوان یکی از مهم ترین ارکان دموکراسی، زمانی که در معرض اطلاعات نادرست و جعلی قرار گیرد، به شدت لطمه می بیند. محتوای جعلی می تواند تصویر نامزدهای انتخاباتی و سیاستمداران را تغییر داده و با انتشار اطلاعات گمراه کننده، رأی دهندگان را نسبت به صحت و سلامت انتخابات گرفتار تردید کند. این تضعیف اعتماد ممکنست به کاهش مشارکت عمومی در انتخابات منجر شود، چونکه شهروندان ممکنست احساس کنند که رأی آنها تأثیری نخواهد داشت و انتخابات تحت تأثیر اطلاعات نادرست برگزار می گردد. ۲. ایجاد سردرگمی اطلاعاتی در عصر اطلاعات، دستیابی به اخبار و اطلاعات دقیق و صحیح اهمیت زیادی دارد. اما محتوای جعلی مبتنی بر هوش مصنوعی می تواند به سرعت در شبکه های اجتماعی و سایر زمینه های ارتباطی گسترش یابد و فضای اطلاعاتی را آلوده کند. این امر موجب می شود که رأی دهندگان در تشخیص حقیقت از دروغ گرفتار مشکل شوند و نتوانند تصمیم گیری های آگاهانه ای انجام دهند. این سردرگمی اطلاعاتی می تواند به نفع افرادی تمام شود که قصد دارند با انتشار اطلاعات نادرست، افکار عمومی را به سمت خاصی هدایت کنند. ۳. تقویت کمپین های اخبار جعلی کمپین های اخبار جعلی همیشه یکی از ابزارهای مؤثر در جنگ های اطلاعاتی بوده اند. با ظهور هوش مصنوعی و قابلیت های پیشرفته ای که این فناوری در تولید محتوای جعلی دارد، این کمپین ها به سطح جدیدی از تأثیرگذاری رسیده اند. دیپ فیک ها می توانند به ایجاد و تقویت شایعات و اطلاعات نادرست کمک کنند و این اطلاعات به سرعت در فضای مجازی انتشار یافته و بر افکار عمومی تأثیر بگذارند. این کمپین ها می توانند به تخریب شخصیت های سیاسی، تغییر نتایج انتخابات، و ایجاد تفرقه در بین مردم منجر شوند. هوش مصنوعی، معضلی برای سلامت انتخابات در آمریکا طبق گزارش های انتشار یافته طی دو سال اخیر، با داغ شدن تنور انتخابات ۲۰۲۴ آمریکا، استفاده از فناوری دیپ فیک به گونه ای نگران کننده بالا رفته و به لطف فناوری های جدید، تولید تصاویر جعلی آسان تر از همیشه شده است. وبگاه خبری نیویورک تایمز، طی گزارش در تاریخ ۸ ژوئن ۲۰۲۳، ادعا نمود که کمپین ران دیسانتیس، فرماندار ایالت فلوریدای آمریکا و نامزد انتخابات ریاست جمهوری این کشور، با انتشار تصاویر جعلی از دونالد ترامپ در توئیتر، به او حمله کرده است. کارشناسان در آن بازه زمانی اعلام نمودند که این تصاویر با بهره گیری از فناوری دیپ فیک مبتنی بر هوش مصنوعی تولید شده اند. قبل از این ترامپ نیز در بعضی موارد از محتوای مشابه برای تخریب بایدن بهره برده بود. با وجود این، استفاده از هوش مصنوعی برای تأثیرگذاری بر نتایج، فقط به محتوای جعلی مبتنی بر هوش مصنوعی در قالب ویدئو محدود نمی گردد. وبگاه اخبار فناوری گیزمودو نیز با انتشار مطلبی در تاریخ ۲ فوریه ۲۰۲۴، از ممنوعیت تماس تلفنی دیپ فیک در تبلیغات انتخاباتی آمریکا در پی افزایش تماسهای تلفنی جعلی در نیوهمپشایر آگاهی داد. این خبر بعد از آن منتشر گردید که گروهی اهتمام داشتند، با جعل تماس تلفنی جو بایدن، رییس جمهور آمریکا، انتخابات مقدماتی حزب دموکرات در ایالت نیوهمپشایر را مختل کنند. جسیکا روزن وورسل، رییس کمیسیون ارتباطات فدرال، طی اظهاراتی در این خصوص اعلام نمود: «تصاویر و شبیه سازی صوتی به وجود آمده توسط هوش مصنوعی با فریب دادن افراد سردرگمی ایجاد می کنند. بنا بر این کمیسیون تجارت فدرال اقداماتی انجام می دهد تا این فناوری نوظهور طبق قوانین موجود، ممنوع شود.» علاوه بر موارد ذکر شده، هوش مصنوعی همین طور می تواند بطور دقیق مخاطبان را هدف قرار دهد و پیام های تبلیغاتی را به گروههای خاص ارسال نماید. این روش به کمپین ها اجازه می دهد که پیام های خاصی را به گروههای متفاوتی از رای دهندگان ارسال نمایند و یا بطور مخفیانه رای دهندگان مخالف را از شرکت در انتخابات منصرف کنند. به عنوان مثال، ربات های فعال در شبکه های اجتماعی توانسته اند در انتخابات گذشته آمریکا و فرانسه با انتشار پیام های هدفمند در شبکه های اجتماعی، فضای سیاسی را به شدت تحت تأثیر قرار دهند. راهکارهای مقابله با محتوای جعلی مبتنی بر هوش مصنوعی ۱. آموزش و افزایش آگاهی عمومی یکی از مهم ترین راه حل ها برای مقابله با محتوای جعلی، آموزش و افزایش آگاهی عمومی است. شهروندان باید از وجود این نوع محتوا و نحوه شناسایی آن آگاه شوند. برگزاری کارگاه ها، تولید محتوای آموزشی، و استفاده از رسانه ها برای اطلاع رسانی دراین زمینه می تواند به افزایش سطح آگاهی عمومی کمک نماید. ۲. تقویت قوانین و مقررات قوانین و مقررات در رابطه با انتشار اطلاعات نادرست و جعلی باید تقویت شوند. نهادهای قانونی باید با جدیت بیشتری به مبارزه با انتشار محتوای جعلی بپردازند و برای افرادی که بطور عمدی این نوع محتوا را منتشر می کنند، مجازات های مناسبی تعیین کنند. همین طور باید مقررات بین المللی برای مقابله با این مشکل تدوین و اجرا شوند تا کشورها بتوانند بصورت هماهنگ با این تهدیدات مقابله کنند. ۳. استفاده از فناوری برای شناسایی محتوای جعلی تکنولوژی های جدید می توانند به شناسایی و تشخیص محتوای جعلی کمک کنند. توسعه الگوریتم ها و ابزارهای پیشرفته ای که قادر به شناسایی محتوای جعلی باشند، می تواند به کاهش انتشار این نوع محتوا کمک نماید. همکاری بین شرکت های فناوری و نهادهای دولتی دراین زمینه بسیار اهمیت دارد تا بتوانند راهکارهای مؤثری برای مقابله با محتوای جعلی عرضه کنند.
۴. افزایش شفافیت در فرآیندهای انتخاباتی افزایش شفافیت در فرآیندهای انتخاباتی می تواند به کاهش تأثیر محتوای جعلی کمک نماید. ارائه اطلاعات دقیق و بموقع به شهروندان، استفاده از سیستم های رأی دهی امن و قابل اعتماد، و ایجاد سازوکارهایی برای نظارت بر انتخابات همچون اقداماتی است که می تواند به افزایش اعتماد عمومی و کاهش تأثیر محتوای جعلی کمک نماید. اقدامات حقوقی در امتداد مبارزه با تأثیرگذاری هوش مصنوعی بر انتخابات خیلی از کشورهای جهان، همچون ایران، ایالات متحده، بریتانیا، هند، روسیه و اتحادیه اروپا همگی در سال ۲۰۲۴، انتخابات هایی را پیش رو دارند که تأثیر عمیقی بر شرایط جهان تا پایان این دهه خواهد داشت. در همین راستا تنظیم گران سرتاسر جهان تلاش دارند که قبل از برگزاری انتخابات، قوانین جامعی را برای مدیریت استفاده از فناوری هوش مصنوعی در پروسه انتخابات تدوین کنند. یکی از اقدامات پیشنهادی استفاده از علایم نشان دهنده ماهیت محتوا یا واترمارک است. واترمارک به کاربران اطلاع می دهد که یک محتوا با بهره گیری از هوش مصنوعی تولید شده است. به عنوان مثال، دولت چین از شروع سال قبل میلادی با معرفی قوانینی که ثبت واترمارک بر محتوای دیپ فیک را دربرداشت، گامی بلند در حوزه تنظیم گری این فناوری برداشت. با این وجود، طیف گسترده ای از کارشناسان اعتقاد دارند که این دست اقدامات بااینکه لازم؛ اما کافی نخواهد بود؛ برای اینکه خیلی از ابزارهای آنلاین می توانند، واترمارک را حذف نمایند. این در شرایطی است که خیلی از کارشناسان، اقدامات حقوقی دولت ها برای مبارزه با گسترش فزاینده محتوای جعلی مبتنی بر هوش مصنوعی را کافی نمی دانند و معتقدند که تحقق این هدف تنها با مشارکت همه ذی نفعان میسر است. از همین روی، توافقات دو و چندجانبه بسیاری میان ذی نفعان این حوزه، در طول سالهای اخیر انجام شده است. وبگاه خبری رویترز، طی گزارشی در تاریخ ۱۶ فوریه ۲۰۲۴ اعلام نمود که گروهی متشکل از ۲۰ شرکت فناوری قصد دارند در حوزه جلوگیری از تداخل محتوای جعلی مبتنی بر هوش مصنوعی در انتخابات کشورهای مختلف جهان با یکدیگر همکاری کنند. این توافق شامل تعهداتی برای همکاری در توسعه ابزارهای شناسایی تصاویر، ویدئو و صداهایی است که هوش مصنوعی آنها را تولید می کند. از طرف دیگر این توافق در پی ایجاد کمپین های آگاهی عمومی برای آموزش تشخیص محتوای فریبنده به رأی دهندگان و… است. از طرف دیگر، خیلی از شرکت های سازنده و عرضه کننده خدمات هوش مصنوعی نیز بصورت مستقل تدابیری را برای مقابله با پدیده تأثیرگذاری بر انتخابات اتخاذ نموده اند. شرکت گوگل در ماه مارس ۲۰۲۴ اعلام نمود که محدودیت هایی را در پاسخ های چت بات «Gemini» به سوالات مربوط به انتخابات در اقصی نقاط جهان اعمال می کند. این شرکت قبل تر و در ماه دسامبر سال قبل محدودیت هایی را در داخل ایالات متحده وضع و از اجرای این محدودیت ها تا قبل از انتخابات این کشور آگاهی داد. سخن پایانی به عقیده خیلی از کارشناسان، در وضعیت فعلی، محتوای جعلی مبتنی بر هوش مصنوعی یکی از بزرگ ترین تهدیدات برای دموکراسی و انتخابات سالم به حساب می آید. تأثیرات گسترده این نوع محتوا بر اعتماد عمومی، سردرگمی اطلاعاتی و تقویت کمپین های اطلاعات غلط نشان دهنده ضرورت اقدام فوری و هماهنگ برای مقابله با این تهدیدات است. با آموزش و افزایش آگاهی عمومی، تقویت قوانین و مقررات، استفاده از تکنولوژی های جدید برای شناسایی محتوای جعلی و افزایش شفافیت در فرآیندهای انتخاباتی، می توان به حفظ صحت و سلامت انتخابات و تقویت اعتماد عمومی کمک کرد. در چنین وضعیتی و باتوجه به تهدیدات گسترده و جدی محتوای جعلی مبتنی بر هوش مصنوعی، لازم است که همه افراد و نهادهای مرتبط به کوشش های مشترکی برای مقابله با این تهدیدات بپردازند. با آموزش و افزایش آگاهی عمومی، تقویت قوانین و مقررات، استفاده از تکنولوژی های جدید، افزایش شفافیت در فرآیندهای انتخاباتی و تشویق به تحقیقات بیشتر، می توان به حفظ صحت و سلامت انتخابات و تقویت اعتماد عمومی کمک کرد. تنها بوسیله این اقدامات مشترک و هماهنگ است که در آستانه برگزاری چهاردهمین انتخابات ریاست جمهوری ایران می توان به مقابله مؤثر با این چالش پیچیده و حفظ اصول دموکراسی پرداخت.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب