মাইক্রোসফট এর থেকে বেশ কিছু কীওয়ার্ড ব্লক করেছে বলে জানা গেছে কৃত্রিম বুদ্ধিমত্তা (AI)-চালিত কপিলট ডিজাইনার যা সহিংস এবং যৌন প্রকৃতির স্পষ্ট ছবি তৈরি করতে ব্যবহার করা যেতে পারে। কীওয়ার্ড ব্লকিং ব্যায়ামটি টেক জায়ান্ট দ্বারা পরিচালিত হয়েছিল যখন এর একজন প্রকৌশলী ইউএস ফেডারেল ট্রেড কমিশন (এফটিসি) এবং মাইক্রোসফ্ট বোর্ড অফ ডিরেক্টরসকে এআই টুল নিয়ে উদ্বেগ প্রকাশ করে লিখেছিলেন। উল্লেখযোগ্যভাবে, 2024 সালের জানুয়ারিতে, সঙ্গীতশিল্পী টেলর সুইফটের AI-উত্পাদিত সুস্পষ্ট ডিপফেকগুলি অনলাইনে আবির্ভূত হয়েছিল এবং বলা হয়েছিল যে এটি ব্যবহার করে তৈরি করা হয়েছিল কপিলট.
প্রথম দাগ সিএনবিসি দ্বারা, “প্রো চয়েস”, “প্রো চয়েস” (এআইকে ঠকাতে ইচ্ছাকৃত টাইপো সহ), এবং “ফোর টুয়েন্টি” এর মতো শব্দ, যা আগে ফলাফল দেখিয়েছিল এখন কপিলট দ্বারা ব্লক করা হয়েছে। এই বা অনুরূপ নিষিদ্ধ কীওয়ার্ডগুলি ব্যবহার করা AI টুল দ্বারা একটি সতর্কতাও ট্রিগার করে যা বলে, “এই প্রম্পটটি ব্লক করা হয়েছে। আমাদের সিস্টেম স্বয়ংক্রিয়ভাবে এই প্রম্পটটিকে পতাকাঙ্কিত করেছে কারণ এটি আমাদের বিষয়বস্তু নীতির সাথে সাংঘর্ষিক হতে পারে। আরো নীতি লঙ্ঘন আপনার অ্যাক্সেস স্বয়ংক্রিয়ভাবে স্থগিত হতে পারে. আপনি যদি মনে করেন এটি একটি ভুল, দয়া করে আমাদের উন্নতিতে সহায়তা করার জন্য এটি রিপোর্ট করুন।” আমরা, গ্যাজেটস 360-এ, এটি নিশ্চিত করতেও সক্ষম হয়েছি।
মাইক্রোসফ্টের একজন মুখপাত্র সিএনবিসিকে বলেছেন, “আমরা আমাদের সুরক্ষা ফিল্টারগুলিকে আরও শক্তিশালী করতে এবং সিস্টেমের অপব্যবহার কমাতে ক্রমাগত পর্যবেক্ষণ করছি, সমন্বয় করছি এবং অতিরিক্ত নিয়ন্ত্রণ রাখছি।” এই সমাধানটি এআই টুলকে কিছু নির্দিষ্ট প্রম্পট গ্রহণ করা থেকে বিরত করেছে, তবে, সামাজিক প্রকৌশলী, হ্যাকার এবং খারাপ অভিনেতারা এই ধরনের অন্যান্য কীওয়ার্ড তৈরি করার জন্য ত্রুটি খুঁজে পেতে সক্ষম হতে পারে।
একটি পৃথক CNBC অনুযায়ী রিপোর্টএই সমস্ত হাইলাইট করা প্রম্পটগুলি শেন জোনস, একজন মাইক্রোসফ্ট প্রকৌশলী দ্বারা দেখানো হয়েছিল, যিনি FTC এবং কোম্পানির পরিচালনা পর্ষদ উভয়ের কাছে একটি চিঠি লিখেছিলেন এবং তার উদ্বেগ প্রকাশ করেছিলেন ডাল-ই গত সপ্তাহে 3-চালিত AI টুল। জোনস 2023 সালের ডিসেম্বর থেকে অভ্যন্তরীণ চ্যানেলের মাধ্যমে কোম্পানির সাথে তার উদ্বেগ এবং AI অনুপযুক্ত ছবি তৈরি করার ফলাফলগুলি সক্রিয়ভাবে শেয়ার করছেন বলে জানা গেছে।
পরে, তিনি এমনকি OpenAI-কে তদন্তের জন্য DALL-E-এর সর্বশেষ পুনরাবৃত্তিটি নামিয়ে নেওয়ার জন্য LinkedIn-এ একটি সর্বজনীন পোস্ট করেছিলেন। তবে, মাইক্রোসফ্ট তাকে পোস্টটি সরাতে বলেছে বলে অভিযোগ রয়েছে। প্রকৌশলী মার্কিন সিনেটরদের কাছেও পৌঁছেছিলেন এবং সমস্যাটি নিয়ে তাদের সাথে দেখা করেছিলেন।
