অধ্যয়ন রোগীর মেসেজিং সিস্টেমে কৃত্রিম বুদ্ধিমত্তা তৈরির জন্য ত্রুটি এবং সুযোগগুলি সনাক্ত করে

ম্যাসাচুসেটস জেনারেল হসপিটাল ব্রিগ্যামের গবেষকদের একটি নতুন গবেষণা দেখায় যে বড় ভাষা মডেল (এলএলএম), এক প্রকারের কৃত্রিম বুদ্ধিমত্তা, রোগীর বার্তাগুলির খসড়া প্রতিক্রিয়া এবং রোগীর শিক্ষার উন্নতি করতে ব্যবহৃত প্রতিক্রিয়াগুলির সংখ্যা কমাতে সাহায্য করতে পারে৷

গবেষণায় দেখা গেছে যে এলএলএম এর সীমাবদ্ধতাগুলি প্রভাবিত করতে পারে রোগীর নিরাপত্তা, প্রদর্শন করে যে LLM-উত্পন্ন যোগাযোগের সতর্ক তত্ত্বাবধান নিরাপদ ব্যবহারের জন্য অপরিহার্য।গবেষণার ফলাফল প্রকাশ করা হয় ল্যানসেট ডিজিটাল হেলথLL.M বাস্তবায়নের জন্য একটি বিচক্ষণ পদ্ধতির প্রয়োজনীয়তার উপর জোর দেয়।

বর্ধিত প্রশাসনিক এবং ডকুমেন্টেশন দায়িত্ব চিকিত্সক বার্নআউট বৃদ্ধিতে অবদান রেখেছে। চিকিত্সক কর্মপ্রবাহকে স্ট্রীমলাইন এবং স্বয়ংক্রিয়ভাবে সাহায্য করার জন্য, ইলেকট্রনিক হেলথ রেকর্ড (EHR) বিক্রেতারা কৃত্রিম বুদ্ধিমত্তার অ্যালগরিদমগুলি গ্রহণ করেছে যা ক্লিনিশিয়ানদের রোগীদের জন্য তথ্য খসড়া করতে সাহায্য করে; তবে তাদের ব্যবহারের দক্ষতা, নিরাপত্তা এবং ক্লিনিকাল প্রভাব অস্পষ্ট।

“জেনারেটিভ এআই'র 'উভয় জগতের সেরা' প্রদানের সম্ভাবনা রয়েছে, যা চিকিত্সকদের উপর বোঝা কমিয়ে এবং প্রক্রিয়ায় রোগীদের আরও ভাল শিক্ষা দেওয়ার,” বলেছেন সংশ্লিষ্ট লেখক ড্যানিয়েল বিটারম্যান, এমডি, মেডিসিনে এআই ফ্যাকাল্টি মেম্বার। এআইএম) ম্যাসাচুসেটস জেনারেল হাসপাতাল ব্রিঘাম জেনারেল হাসপাতালের প্রোগ্রাম এবং ব্রিঘাম এবং মহিলা হাসপাতালের রেডিয়েশন অনকোলজি বিভাগের চিকিত্সকরা।

“তবে, এলএলএম-এর সাথে কাজ করা আমাদের দলের অভিজ্ঞতার উপর ভিত্তি করে, আমরা উদ্বিগ্ন যে মেসেজিং সিস্টেমে এলএলএমগুলিকে একীভূত করার সম্ভাব্য ঝুঁকি থাকতে পারে৷ যেহেতু ইলেকট্রনিক মেডিকেল রেকর্ডগুলিতে এলএলএমগুলির একীকরণ আরও সাধারণ হয়ে উঠেছে, আমরা এই গবেষণায় লক্ষ্য প্রাসঙ্গিক সুবিধাগুলি চিহ্নিত করা এবং অপূর্ণতা।”

গবেষণায়, গবেষকরা ওপেনএআই-এর GPT-4 ব্যবহার করেছেন, একটি মৌলিক এলএলএম, ক্যান্সার রোগীদের সম্পর্কে 100টি পরিস্থিতি তৈরি করতে এবং রোগীর প্রশ্নগুলির সাথে। গবেষণায় প্রকৃত রোগীদের প্রশ্ন ব্যবহার করা হয়নি।ছয় বিকিরণ অনকোলজিস্ট ম্যানুয়ালি প্রশ্নের উত্তর দিন; তারপর প্রশ্নগুলির উত্তর তৈরি করে।

অবশেষে, একই রেডিয়েশন অনকোলজিস্টরা পর্যালোচনা এবং সম্পাদনার জন্য এলএলএম-উত্পন্ন প্রতিক্রিয়াগুলি অর্জন করেছিলেন। রেডিয়েশন অনকোলজিস্টরা জানতেন না যে প্রতিক্রিয়াগুলি GPT-4 নাকি মানব-লিখিত, এবং 31% ক্ষেত্রে, বিশ্বাস করেন যে এলএলএম-উত্পন্ন প্রতিক্রিয়াগুলি মানব-লিখিত।

গড়ে, চিকিত্সকদের দ্বারা খসড়া করা প্রতিক্রিয়াগুলি এলএলএম দ্বারা উত্পন্ন প্রতিক্রিয়াগুলির চেয়ে ছোট ছিল। GPT-4 রোগীদের জন্য আরও শিক্ষাগত প্রেক্ষাপট প্রদান করে, কিন্তু এর নির্দেশাবলীতে কম নির্দেশনামূলক। চিকিত্সকরা রিপোর্ট করেছেন যে LLM তাদের অনুভূত দক্ষতা বৃদ্ধিতে সহায়তা করেছে এবং অনুভব করেছে যে 82.1% ক্ষেত্রে, LLM-উত্পন্ন প্রতিক্রিয়াগুলি নিরাপদ এবং 58.3% ক্ষেত্রে আর কোনও সম্পাদনা ছাড়াই রোগীদের কাছে পাঠানো যেতে পারে।

গবেষকরা কিছু ত্রুটিও খুঁজে পেয়েছেন: সম্পাদনা ছাড়াই, LLM দ্বারা উত্পন্ন প্রতিক্রিয়াগুলির 7.1% রোগীদের জন্য ঝুঁকি তৈরি করতে পারে এবং 0.6% প্রতিক্রিয়া মৃত্যুর ঝুঁকি তৈরি করতে পারে, সাধারণত GPT-4 প্রতিক্রিয়াগুলি রোগীদের জরুরিভাবে নির্দেশ দেওয়ার ক্ষমতা ছিল না। অবিলম্বে চিকিৎসা সেবা চাইতে।

উল্লেখযোগ্যভাবে, LLM-উত্পন্ন/চিকিৎসক-সম্পাদিত প্রতিক্রিয়াগুলি ম্যানুয়াল প্রতিক্রিয়াগুলির চেয়ে LLM-উত্পাদিত প্রতিক্রিয়াগুলির দৈর্ঘ্য এবং বিষয়বস্তুর সাথে বেশি মিল ছিল। অনেক ক্ষেত্রে, চিকিত্সকরা LL.M. দ্বারা উত্পন্ন শিক্ষামূলক বিষয়বস্তু ধরে রেখেছেন, ইঙ্গিত করে যে তারা এটি মূল্যবান বলে মনে করেন। যদিও এটি রোগীর শিক্ষাকে সহজতর করতে পারে, গবেষকরা জোর দেন যে LL.M এর উপর অত্যধিক নির্ভরতা ঝুঁকির কারণ হতে পারে, এর প্রমাণিত ত্রুটিগুলি।

এগিয়ে গিয়ে, অধ্যয়নের লেখকরা তদন্ত করছেন যে কীভাবে রোগীরা এলএলএম-ভিত্তিক যোগাযোগ উপলব্ধি করে এবং কীভাবে রোগীদের জাতি এবং জনসংখ্যার বৈশিষ্ট্যগুলি এলএলএম তৈরি করা প্রতিক্রিয়াগুলিকে প্রভাবিত করে, যা জানা যায় তার উপর ভিত্তি করে অ্যালগরিদমিক পক্ষপাত এলএলএম-এ

“মেডিসিনে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করার সময় মানুষকে জড়িত করা একটি গুরুত্বপূর্ণ নিরাপত্তা পদক্ষেপ, কিন্তু এটি একটি একক সমাধান নয়,” বিটম্যান বলেন।

“যেহেতু প্রদানকারীরা LLM-এর উপর বেশি নির্ভর করে, তাই আমরা ভুলগুলি মিস করতে পারি যা রোগীর ক্ষতির কারণ হতে পারে৷ এই গবেষণাটি LLM-এর গুণমান নিরীক্ষণের জন্য সিস্টেমের প্রয়োজনীয়তা প্রদর্শন করে এবং রোগীদের জন্য LLM আউটপুটগুলি যথাযথভাবে তত্ত্বাবধান করার জন্য চিকিত্সকদের প্রশিক্ষণ দেয় এবং চিকিত্সকরা আরও এআই সাক্ষর এবং মৌলিকভাবে পরিণত হন৷ এলএলএম দ্বারা করা ত্রুটিগুলি কীভাবে সমাধান করা যায় তা আরও ভালভাবে বুঝতে পারে।”