ব্যবহারকারীদের সতর্ক করেছে ব্রিটেনের গোয়েন্দা সংস্থা।
সর্বশেষ প্রযুক্তিগত উদ্ভাবন, যেমন চ্যাটজিপিটি এবং প্রতিযোগিতামূলক চ্যাটবট, একই সাথে মানুষকে কৌতূহলী ও সন্দেহজনক করে তুলছে। অন্যান্য প্রযুক্তির মতো এই উদ্ভাবনের সুবিধা এবং নিরাপত্তা ঝুঁকি রয়েছে।
ব্রিটেনের শীর্ষস্থানীয় নিরাপত্তা সংস্থা, দ জাতীয় সাইবার নিরাপত্তা কেন্দ্র, এই চ্যাটবটগুলি যে ক্ষতির কারণ হতে পারে তা নোট করেছে এবং সম্ভাব্য হুমকি এড়াতে ব্যবহারকারীদের ব্যক্তিগত বা সংবেদনশীল তথ্য সফ্টওয়্যারে প্রবেশ না করার জন্য সতর্ক করেছে৷
দুই টেকনিক্যাল ডিরেক্টর, ডেভিড সি এবং পল জে, জাতীয় সাইবার সিকিউরিটি সেন্টারের ব্লগে উদ্বেগের প্রাথমিক কারণগুলি — গোপনীয়তা ফাঁস এবং সাইবার অপরাধীদের দ্বারা ব্যবহার — নিয়ে আলোচনা করেছেন৷
বিশেষজ্ঞরা ব্লগে বলেছেন যে “বড় ভাষার মডেল (এলএলএম) নিঃসন্দেহে অনেক মানব এবং কম্পিউটার ভাষা জুড়ে বিস্তৃত কংক্রিট সামগ্রী তৈরি করার ক্ষমতার জন্য চিত্তাকর্ষক।” যাইহোক, তারা জাদু নয়, তারা কৃত্রিম বুদ্ধিমত্তা নয় এবং তাদের কিছু গুরুতর ত্রুটি রয়েছে।”
তার মতে, সরঞ্জামগুলি জিনিসগুলিকে ভুল পেতে পারে এবং ভুল তথ্যগুলিকে “বিভ্রান্ত” করতে পারে, পাশাপাশি পক্ষপাতদুষ্ট এবং প্রায়শই নির্বোধ হতে পারে।
“শুরু থেকে তাদের প্রশিক্ষণের জন্য বিশাল কম্পিউটিং সংস্থান এবং বিশাল ডেটার প্রয়োজন। তারা বিষাক্ত সামগ্রী তৈরিতে প্রতারিত হতে পারে এবং “ইনজেকশন আক্রমণের প্রবণ” কারিগরি পরিচালকরা লিখেছেন।
উদাহরণস্বরূপ, NCSC টিম বলে: “কোয়েরির সাথে জড়িত ডেটার কারণে বা কে প্রশ্নটি জিজ্ঞাসা করছে (এবং কখন) কারণে একটি প্রশ্ন সংবেদনশীল হতে পারে। কখন একজন কর্মচারীকে বরখাস্ত করা ভাল?” অথবা কেউ স্বাস্থ্য বা সম্পর্ক সম্পর্কে প্রকাশক প্রশ্ন জিজ্ঞাসা করে।
“এছাড়াও একই লগইন ব্যবহার করে একাধিক প্রশ্ন জুড়ে তথ্যের একত্রীকরণ নোট করুন।”