বলিউড তারকার ডিপফেক ভারতের নির্বাচনে এআই হস্তক্ষেপ নিয়ে উদ্বেগ বাড়ায়

অনলাইনে ভাইরাল হওয়া একটি জাল ভিডিওতে, দুজন এ-লিস্ট বলিউড অভিনেতা প্রধানমন্ত্রী নরেন্দ্র মোদির সমালোচনা করেছেন এবং দেশের চলমান সাধারণ নির্বাচনে বিরোধী কংগ্রেস দলকে ভোট দিতে বলেছেন।

30 সেকেন্ডের একটি ভিডিও এবং আমির খান এবং রণবীর সিংয়ের আরেকটি 41 সেকেন্ডের ভিডিওতে, বলিউডের দুই অভিনেতা অভিযোগ করেছেন যে মোদি তার মেয়াদে দুইবারের প্রধানমন্ত্রী ছিলেন, তিনি তার প্রচারাভিযানের প্রতিশ্রুতি পূরণ করতে ব্যর্থ হন এবং মূল সমাধান করতে ব্যর্থ হন। অর্থনৈতিক সমস্যাবলী.

এআই-উত্পাদিত উভয় ভিডিওই কংগ্রেসের নির্বাচনী প্রতীক এবং স্লোগান দিয়ে শেষ হয়: “ন্যায়বিচারের জন্য ভোট দিন, কংগ্রেসকে ভোট দিন।”

রয়টার্স জানিয়েছে, গত সপ্তাহ থেকে ভিডিও দুটি সোশ্যাল মিডিয়ায় 500,000 বারের বেশি দেখা হয়েছে।

তাদের স্প্রেড হাইলাইট করে যে এআই-উত্পাদিত বিষয়বস্তু ভারতের বৃহৎ নির্বাচনগুলিতে যে সম্ভাব্য ভূমিকা পালন করতে পারে, যা শুক্রবার থেকে শুরু হয় এবং জুন পর্যন্ত চলবে। মার্কিন যুক্তরাষ্ট্র, পাকিস্তান এবং ইন্দোনেশিয়া সহ বিশ্বের অন্য কোথাও নির্বাচনে কৃত্রিম বুদ্ধিমত্তা এবং এআই-জেনারেটেড জালিয়াতি (বা ডিপফেক) ক্রমবর্ধমানভাবে ব্যবহৃত হচ্ছে।

ভারতে নির্বাচনী প্রচারাভিযানগুলি দীর্ঘদিন ধরে ঘরে ঘরে প্রচারণা এবং জনসভার উপর দৃষ্টি নিবদ্ধ করেছে, কিন্তু 2019 সাল থেকে প্রচারণার হাতিয়ার হিসাবে WhatsApp এবং Facebook এর ব্যাপক ব্যবহার শুরু হয়েছে। এই বছরের নির্বাচন – যেখানে মোদি একটি বিরল তৃতীয় মেয়াদ নিশ্চিত করবে বলে আশা করা হচ্ছে – প্রথম এবং সর্বাগ্রে, কৃত্রিম বুদ্ধিমত্তার ব্যবহার।

কংগ্রেসের মুখপাত্র সুজাতা পল অভিনেতা সিংয়ের একটি ভিডিও শেয়ার করেছেন তার 16,000 অনুসারীদের সাথে রিচড 438,000 বার।

পল ফোনে রয়টার্সকে বলেছেন যে তিনি জানতেন ভিডিওটি একজন দ্বারা পতাকাঙ্কিত হয়েছে

রয়টার্স কংগ্রেসনাল সোশ্যাল মিডিয়া প্যানেলের প্রধানের কাছে মন্তব্যের জন্য অনুরোধ পাঠানোর কয়েক ঘন্টা পরে রবিবার X-এ পোস্টটি আর দৃশ্যমান ছিল না, যারা প্রতিক্রিয়া জানায়নি।

দুই অভিনেতাই বলেছেন ভিডিওগুলো ভুয়া। Facebook, X এবং অন্তত আটটি ফ্যাক্ট-চেকিং সাইট বলেছে যে তারা পরিবর্তন বা কারচুপি করা হয়েছে, যা রয়টার্সের ডিজিটাল যাচাইকরণ ইউনিট দ্বারা নিশ্চিত করা হয়েছে।

রয়টার্স কে ভিডিও তৈরি করেছে তা নির্ধারণ করতে পারেনি। ভাইরাল “ভুয়া” ভিডিওটি দেখে খান “মর্মাহত” হয়েছিলেন এবং উভয় অভিনেতার মুখপাত্রের মতে সিংয়ের দল বিষয়টি তদন্ত করছে। “বন্ধুরা, ডিপফেক থেকে সাবধান থাকুন,” সিং শুক্রবার X এ লিখেছেন।

মোদির অফিস এবং বিজেপির আইটি প্রধান মন্তব্যের জন্য অনুরোধের জবাব দেননি।

পুলিশ তদন্ত

ভারতে প্রায় 900 মিলিয়ন লোকের ইন্টারনেট অ্যাক্সেস রয়েছে এবং গবেষণা সংস্থা Esya সেন্টার এবং ইন্ডিয়ান ইনস্টিটিউট অফ ম্যানেজমেন্ট বিজনেস স্কুল দ্বারা পরিচালিত একটি সমীক্ষা দেখায় যে গড় ভারতীয়রা দিনে তিন ঘন্টার বেশি সোশ্যাল মিডিয়াতে ব্যয় করে। দেশটিতে প্রায় এক বিলিয়ন ভোটার রয়েছে।

ভিডিওগুলির কিছু সংস্করণ সোশ্যাল মিডিয়াতে ব্লক করা হয়েছে, তবে শনিবারের X-এ অন্তত 14টি সংস্করণ এখনও দৃশ্যমান ছিল। ফেসবুক কোম্পানিতে রয়টার্স দ্বারা পতাকাঙ্কিত দুটি ভিডিও সরিয়ে দিয়েছে, তবে অন্যটি দৃশ্যমান রয়েছে।

ফেসবুক একটি বিবৃতিতে বলেছে যে তারা তাদের নীতি লঙ্ঘনের জন্য “এই ভিডিওগুলি সরিয়ে দিয়েছে”। এক্স রয়টার্সের অনুসন্ধানের জবাব দেয়নি।

ভিডিওগুলি একটি পুলিশ তদন্তের সূত্রপাত করে এবং খান 17 এপ্রিল মুম্বাইতে অজ্ঞাত ব্যক্তিদের বিরুদ্ধে জাল ভিডিও তৈরিতে ছদ্মবেশী এবং প্রতারণার অভিযোগে মামলা দায়ের করেন।

মুম্বাই পুলিশ মন্তব্যের অনুরোধে সাড়া দেয়নি, তবে খানের মামলায় কর্মরত দুই পুলিশ কর্মকর্তা, যারা নাম প্রকাশ না করার শর্তে কথা বলেছেন, বলেছেন যে তারা ফেসবুক এবং এক্সকে ভিডিওটি সরানোর জন্য বলেছে এবং কোম্পানিগুলি বলেছে যে তারা সরিয়ে দিয়েছে। ভিডিও.

কর্মকর্তারা বলেছেন যে তারা শুক্রবার দুপুর ২টা পর্যন্ত কাজ করেছেন, খানের অনলাইন ভিডিওগুলি মুছে ফেলা হয়েছে কিনা তা পরীক্ষা করার জন্য পৃষ্ঠাটি রিফ্রেশ করে। মামলার অগ্রগতি সম্পর্কে জানতে চাইলে একজন কর্মকর্তা বলেন: “এই ধরনের প্রযুক্তিগত তদন্তে সময় লাগে।”

প্রয়াত বাবার কৃত্রিম বুদ্ধিমত্তার ভিডিও

এই বছরের নির্বাচনে, রাজনীতিবিদরা এআই ব্যবহার করছেন অন্য উপায়ে।

দক্ষিণ ভারতে, কংগ্রেস নেতা বিজয় বসন্তের একজন মুখপাত্র বলেছেন যে তার দল কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে একটি 2 মিনিটের অডিও-ভিডিও ক্লিপ তৈরি করেছে এবং এটি সোশ্যাল মিডিয়া প্ল্যাটফর্মে শেয়ার করেছে যে তাকে এখন মৃত কিন্তু জনপ্রিয় রাজনীতিবিদ পিতা এইচ. বসন্তকুমার খুঁজছেন৷ তার জন্য ভোট।

“যদিও আমার শরীর তোমাদের সবাইকে ছেড়ে চলে গেছে, আমার আত্মা রয়ে গেছে,” প্রয়াত এই রাজনীতিবিদ বলেছিলেন।

ইউটিউবে কমিউনিস্ট পার্টি অফ ইন্ডিয়া মার্ক্সবাদী (সিপিএম) দ্বারা পোস্ট করা একটি ভিডিওতে, এআই-উত্পাদিত অ্যাঙ্কর সমতা, একটি ঐতিহ্যবাহী শাড়ি পরে এবং একটি নিয়মিত সংবাদ চ্যানেলের অনুকরণ করে এমনভাবে কথা বলে, পশ্চিমবঙ্গের শাসক দলের সমালোচনা করে।

একটি ভিডিওতে, অ্যাঙ্কর দাবি করেছেন যে দলটি পরিবেশের প্রতি যত্নশীল নয় কারণ অবৈধ নির্মাণের কারণে অনেক জলাশয় উধাও হয়ে যাচ্ছে।

ক্ষমতাসীন দলের একজন মুখপাত্র এই অভিযোগ অস্বীকার করেছেন এবং বলেছেন যে রাজ্য সরকার নিশ্চিত করেছে যে এই ধরনের কোনও নির্মাণ হবে না। সিপিএম মন্তব্যের অনুরোধে সাড়া দেয়নি।

ভিডিওটিতে, যা 12,000 বার দেখা হয়েছে, অ্যাঙ্কর সমতা ঘোষণা করেছেন: “এগুলি এমন প্রশ্ন যা এই শহরের নাগরিক হিসাবে আমাদের ভাবতে হবে।”

(নয়া দিল্লিতে আদিত্য কালরা, বেঙ্গালুরুতে মুন্সিফ ভেঙ্গাটিল এবং মুম্বাইতে ধোয়ানি পান্ড্যের রিপোর্টিং; হার্দিক ব্যাস, কারমেল জেসলিন বি, অর্পণ চতুর্বেদী, ঋষিকা সাদাম, শিবাঙ্গী আচার্য, যতীন্দ্র দাশ, সুব্রত নাগ চৌধুরীর অতিরিক্ত রিপোর্টিং; রাজু পালকপালের সম্পাদনা)

আর একটা জিনিস! আমরা এখন হোয়াটসঅ্যাপ চ্যানেল ব্যবহার করতে পারি! আমাদের অনুসরণ করুন যাতে আপনি প্রযুক্তির জগতের কোন আপডেট মিস করবেন না। হোয়াটসঅ্যাপে এইচটি টেক চ্যানেল অনুসরণ করতে ক্লিক করুন এখানে এখনি যোগদিন!