“আমি জেমিনি অ্যাপে সমস্যাযুক্ত পাঠ্য এবং চিত্র প্রতিক্রিয়াগুলির সাথে সাম্প্রতিক সমস্যাগুলি সমাধান করতে চাই,” পিচাই কর্মীদের কাছে একটি চিঠি লিখেছিলেন, যা সংবাদ ওয়েবসাইট সেমাফোর দ্বারা প্রকাশিত হয়েছিল।
“আমি জানি যে এর কিছু প্রতিক্রিয়া আমাদের ব্যবহারকারীদের অসন্তুষ্ট করেছে এবং পক্ষপাত দেখিয়েছে – স্পষ্ট করে বলতে গেলে, এটি সম্পূর্ণরূপে অগ্রহণযোগ্য এবং আমরা এটি ভুল পেয়েছি,” তিনি যোগ করেছেন।
গুগলের হাই-প্রোফাইল এর চ্যাটজিপিটি-স্টাইল এআই-কে 'জেমিনি'-তে পুনঃব্র্যান্ডিং করার কয়েক সপ্তাহের মধ্যে বিতর্কটি আবির্ভূত হয়। সোশ্যাল মিডিয়া ব্যবহারকারীরা ঐতিহাসিকভাবে ভুল মিথুন-উত্পাদিত চিত্রগুলির জন্য কোম্পানিকে উপহাস ও সমালোচনা করেছেন, যেমন 1800-এর দশকের মার্কিন সিনেটররা জাতিগতভাবে বৈচিত্র্যময় এবং নারীদের অন্তর্ভুক্ত ছিল।
ভারতে, পিএম মোদির উপর একটি প্রশ্নের জবাবে জেমিনি তার অপ্রমাণিত অভিযোগের জন্য কঠোর নিন্দার মুখে পড়ার কয়েকদিন পরে, আইটি মন্ত্রী অশ্বিনী বৈষ্ণব গত সোমবার সতর্ক করেছিলেন যে সরকার AI ভিত্তিক প্ল্যাটফর্মগুলি চালানোর ক্ষেত্রে কোনও জাতিগত এবং অন্যান্য পক্ষপাতিত্বকে “সহ্য করবে না”। .
মিথুনের সমস্যা সমাধানের জন্য গুগলের দলগুলো দিনরাত কাজ করছে: পিচাই
গুগলের একজন মুখপাত্র এএফপিকে নিশ্চিত করেছেন যে কর্মীদের কাছে সুন্দর পিচাইয়ের চিঠিটি সত্য ছিল।
পিচাই বলেছিলেন যে গুগলের দলগুলি এই সমস্যাগুলি সমাধান করার জন্য “ঘড়িঘড়ি” কাজ করছে তবে চিত্র তৈরির বৈশিষ্ট্যটি আবার কখন উপলব্ধ হবে তা বলেননি। “কোনও এআই নিখুঁত নয়, বিশেষ করে শিল্পের বিকাশের এই উদীয়মান পর্যায়ে, তবে আমরা জানি যে বারটি আমাদের জন্য অনেক বেশি এবং আমরা এটি যতই দীর্ঘ সময় নেয় ততক্ষণ ধরে রাখব,” তিনি লিখেছেন।
ভারতের যোগাযোগ ও তথ্যপ্রযুক্তি মন্ত্রী অশ্বিনী বৈষ্ণব সতর্ক করে দিয়েছিলেন যে সরকার এআই-এর উপর ভিত্তি করে প্ল্যাটফর্মগুলি চালানোর ক্ষেত্রে কোনও জাতিগত এবং অন্যান্য পক্ষপাতিত্বকে “সহ্য করবে না”। তিনি বলেছিলেন যে গুগলের মতো সংস্থাগুলি, যারা AI-ভিত্তিক সমাধানগুলি বিকাশ করছে, তাদের পক্ষপাত এবং ভুল তথ্য এড়াতে তাদের প্ল্যাটফর্মগুলিকে “সঠিকভাবে” পাওয়ার অন্তর্নিহিত মডেলগুলিকে প্রশিক্ষণ দিতে হবে। মন্ত্রিপরিষদ মন্ত্রীর মতামত আইটি ও ইলেকট্রনিক্স প্রতিমন্ত্রী রাজীব চন্দ্রশেখরের অনুরূপ নিন্দার অনুসরণ করে যিনি জেমিনি দ্বারা প্রকাশিত ফলাফলগুলিকে আইটি আইনের কিছু বিধানের পাশাপাশি ফৌজদারি কোডের “লঙ্ঘন” হিসাবে অভিহিত করেছিলেন।
প্রযুক্তি কোম্পানিগুলি কম্পিউটিং-এর পরবর্তী বড় পদক্ষেপ হিসাবে জেনারেটিভ কৃত্রিম বুদ্ধিমত্তার মডেলগুলিকে দেখে এবং ইন্টারনেটে অনুসন্ধান করা এবং সঙ্গীত ও শিল্প তৈরি করা পর্যন্ত গ্রাহক সহায়তা স্বয়ংক্রিয় করা থেকে শুরু করে সবকিছুতে তাদের যুক্ত করার জন্য দৌড়াচ্ছে৷
কিন্তু AI মডেলগুলি, এবং শুধুমাত্র Google এর নয়, তাদের ফলাফলগুলিতে জাতিগত এবং লিঙ্গ পক্ষপাতকে স্থায়ী করার জন্য দীর্ঘদিন ধরে সমালোচিত হয়েছে। গুগল গত সপ্তাহে বলেছিল যে মিথুনের কাছ থেকে সমস্যাযুক্ত প্রতিক্রিয়াগুলি এই ধরনের পক্ষপাত দূর করার জন্য কোম্পানির প্রচেষ্টার ফলাফল। মিথুনকে বিভিন্ন লোক দেখানোর জন্য ক্যালিব্রেট করা হয়েছিল কিন্তু প্রম্পটের জন্য সামঞ্জস্য করা হয়নি যেখানে এটি হওয়া উচিত ছিল না, এছাড়াও কিছু অন্যথায় ক্ষতিকারক অনুরোধের সাথে খুব সতর্ক হয়ে উঠেছে, গুগলের প্রভাকর রাঘবন একটি ব্লগ পোস্টে লিখেছেন। “এই দুটি জিনিস মডেলটিকে কিছু ক্ষেত্রে অতিরিক্ত ক্ষতিপূরণ দিতে এবং অন্যদের ক্ষেত্রে অতিরিক্ত রক্ষণশীল হতে পরিচালিত করে, যা বিব্রতকর এবং ভুল ছিল এমন চিত্রের দিকে নিয়ে যায়,” তিনি বলেছিলেন। ChatGPT-এর বিস্ফোরক সাফল্যের পর থেকে AI নিয়ে অনেক উদ্বেগ দেখা দিয়েছে।
বিশেষজ্ঞরা এবং সরকারগুলি সতর্ক করেছে যে AI বড় অর্থনৈতিক বিপর্যয়ের ঝুঁকিও বহন করে, বিশেষ করে চাকরির স্থানচ্যুতি, এবং শিল্প-স্কেল বিভ্রান্তি যা নির্বাচন পরিচালনা করতে পারে এবং সহিংসতাকে উত্সাহিত করতে পারে।
