LoveGPT: AI "আস্থাভাজন"-এর উত্থান এবং কেন এটি বিপজ্জনক

ভ্যালেন্টাইন ডে কাছে আসার সাথে সাথে, একটি অস্বস্তিকর প্রশ্ন জিজ্ঞাসা করা মূল্যবান: যখন 'দেখা এবং শোনার' অনুভূতি কোনো সঙ্গীর কাছ থেকে নয়, বরং একটি মেশিন থেকে আসে তখন কী ঘটে? স্বতন্ত্র ব্যক্তিত্ব এবং নিশ্চিতকরণমূলক স্বরে ডিজাইন করা, কৃত্রিম বুদ্ধিমত্তা (AI) কম্প্যানিয়ন চ্যাটবটগুলি আবেগজনিত সীমানা অস্পষ্ট করতে এবং রোমান্টিক সংযুক্তি বৃদ্ধি করতে পারে। যদিও এটি নিরীহ মনে হতে পারে, এটি ব্যক্তি এবং প্রতিষ্ঠান উভয়ের জন্য উদ্বেগ তৈরি করে যারা আবেগজনিত নির্ভরতা, ম্যানিপুলেশন এবং ডেটা ফাঁস প্রতিরোধ করতে চায়।

অনেকের জন্য একাকীত্ব একটি সর্বদা উপস্থিত বাস্তবতা হওয়ায়, সাম্প্রতিক বছরগুলিতে কম্প্যানিয়ন AI চ্যাটবটে দ্রুত বৃদ্ধি ঘটেছে।

"সাধারণ উদ্দেশ্যের চ্যাটবটের বিপরীতে, Replika এবং Character.AI-এর মতো AI কম্প্যানিয়ন অ্যাপগুলি কাস্টম ক্যারেক্টার অফার করে এক ধাপ এগিয়ে যায় – বন্ধু এবং রোমান্টিক সঙ্গী থেকে শুরু করে ফ্যান্টাসি পার্সোনা পর্যন্ত – যা স্বতন্ত্রভাবে মানবিক অনুভূতি দেওয়ার জন্য ডিজাইন করা হয়েছে," KnowBe4 Africa-এর কন্টেন্ট স্ট্র্যাটেজির SVP এবং CISO উপদেষ্টা Anna Collard মন্তব্য করেন।

AI কম্প্যানিয়ন অ্যাপ সেক্টরে বৃদ্ধি দ্রুত হয়েছে: শুধুমাত্র ২০২৫-এর প্রথমার্ধে ৬০ মিলিয়ন নতুন ডাউনলোড রেকর্ড করা হয়েছে, যা বছরে ৮৮% বৃদ্ধি।

বাজারে এখন বিশ্বব্যাপী ৩৩৭টি রাজস্ব-উৎপাদনকারী অ্যাপ রয়েছে, যার এক-তৃতীয়াংশেরও বেশি শুধুমাত্র গত বছর চালু হয়েছে।

ELIZA প্রভাবের বিপদ

Collard বলেন যে অনেক ব্যবহারকারী একটি মেশিনের সাথে ঘনিষ্ঠ কথোপকথন শেয়ার করা নিরাপদ বলে মনে করে প্রতারিত হন – যাকে বলা হয় ELIZA প্রভাব।

এই মনস্তাত্ত্বিক বন্ধন একটি উল্লেখযোগ্য নিরাপত্তা দুর্বলতা তৈরি করে। যখন ব্যবহারকারীরা একটি AIকে 'বন্ধু' বা 'সঙ্গী' হিসেবে মনে করেন, তখন তারা সংবেদনশীল তথ্য শেয়ার করার অনেক বেশি সম্ভাবনা থাকে – ব্যক্তিগত অভিযোগ এবং স্বাস্থ্য সমস্যা থেকে শুরু করে মালিকানাধীন কর্পোরেট ডেটা পর্যন্ত।

একটি সাংগঠনিক প্রেক্ষাপটে, এটি একটি স্পষ্ট উদাহরণ যে কীভাবে আবেগজনিত ট্রিগার ঐতিহ্যগত নিরাপত্তা সচেতনতাকে অগ্রাহ্য করতে পারে।

ডেটা-ফাঁসের ঝুঁকি

প্রতিষ্ঠানের জন্য সবচেয়ে তাৎক্ষণিক হুমকি হলো সংবেদনশীল তথ্যের ফাঁস। কারণ এই বটগুলি প্রায়শই ছোট, বিশেষায়িত স্টার্টআপ দ্বারা তৈরি করা হয় যাদের ডেটা সুরক্ষা মানদণ্ড সন্দেহজনক, একটি বটের সাথে শেয়ার করা তথ্য খুব কমই ব্যক্তিগত থাকে। এর সাম্প্রতিক উদাহরণ হলো একটি AI খেলনা যা বাচ্চাদের সাথে তার ৫০,০০০ চ্যাট লগ প্রকাশ করেছে। আক্ষরিক অর্থে Gmail অ্যাকাউন্টসহ যে কেউ এই বাচ্চাদের ব্যক্তিগত কথোপকথন দেখতে সক্ষম ছিল।

এই অ্যাপগুলির গোপনীয়তা নীতি প্রায়শই অস্পষ্ট। কিছু ক্ষেত্রে, চ্যাট লগগুলি মডেলগুলিকে আরও প্রশিক্ষিত করতে ব্যবহৃত হয় বা অনিরাপদ ডেটাবেসে সংরক্ষণ করা হয়। "সতর্কতা অবশ্যই প্রয়োজন," Collard মন্তব্য করেন। "যা একটি ব্যক্তিগত, নিম্ন-ঝুঁকির মিথস্ক্রিয়া মনে হয় তাতে সংবেদনশীল তথ্য, কৌশল, আর্থিক চাপ, ব্যক্তিগত চাপ বা প্রাসঙ্গিক বিবরণ থাকতে পারে যা প্রতিপক্ষরা অস্ত্র হিসেবে ব্যবহার করতে পারে।"

একবার ফাঁস হলে, তিনি বিশ্বাস করেন যে ডেটা, উদাহরণস্বরূপ, অত্যন্ত ব্যক্তিগতকৃত ফিশিং, ব্ল্যাকমেল বা ছদ্মবেশী আক্রমণের জন্য জ্বালানি হয়ে উঠতে পারে। "নিরাপত্তার পরিভাষায়, এটি একটি পাঠ্যপুস্তকের উদাহরণ যে কীভাবে ব্যক্তিগত আচরণ এবং কর্পোরেট ঝুঁকি এখন অবিচ্ছেদ্য।"

এই ঝুঁকিগুলির মধ্যে রয়েছে প্রশিক্ষণ, গুণমান নিয়ন্ত্রণ বা নিরাপত্তা উদ্দেশ্যে মানব মডারেটররা কথোপকথন পর্যালোচনা করছেন, পাশাপাশি ব্যবহারকারীরা ভুলবশত একটি পাবলিক লিঙ্কের মাধ্যমে কথোপকথন শেয়ার করছেন, যার অর্থ সেই লিঙ্কে অ্যাক্সেস আছে এমন যে কেউ এটি পড়তে পারে। Collard সতর্ক করেন। "আমরা ইতিমধ্যে প্রযুক্তি খাত জুড়ে উদাহরণ দেখেছি যে কীভাবে প্রকাশিত ডেটা অপ্রত্যাশিতভাবে প্রকাশ পেতে পারে।"

উপরন্তু, যদি কোনো অ্যাপ কোনো লঙ্ঘন বা আইনি তদন্তের সাথে জড়িত থাকে তাহলে প্রতিষ্ঠানগুলি আইনত ডেটা প্রকাশ করতে বাধ্য হতে পারে। একজন নির্বাহী বা ডেভেলপারের জন্য, একটি গোপনীয় প্রকল্প বা একটি কঠিন ক্লায়েন্ট সম্পর্কে 'ভেন্টিং' সেশন শেয়ার করা অসাবধানতাবশত সংবেদনশীল সাংগঠনিক ডেটার প্রকাশের দিকে নিয়ে যেতে পারে।

নীতিগত শূন্যতা

এই ঝুঁকি আধুনিক কর্মক্ষেত্রের মধ্যে একটি নীতিগত শূন্যতা তুলে ধরে। যদিও বেশিরভাগ প্রতিষ্ঠানের সহকর্মীদের মধ্যে সম্পর্কের বিষয়ে স্পষ্ট নির্দেশিকা রয়েছে, খুব কমই কাজের ডিভাইসে বা কর্পোরেট নেটওয়ার্কের মাধ্যমে ডেটিং বট অ্যাক্সেস করার প্রভাব বিবেচনা করেছে।

এই ঝুঁকি পরিচালনার জন্য সাধারণ সচেতনতা থেকে একটি শক্তিশালী হিউম্যান রিস্ক ম্যানেজমেন্ট (HRM) পদ্ধতিতে রূপান্তর প্রয়োজন। এতে স্পষ্ট ব্যবহারের নীতিগুলিকে প্রযুক্তিগত গার্ডরেলের সাথে স্তরিত করা জড়িত – যেমন Shadow AI আবিষ্কার সরঞ্জাম – IT টিমগুলিকে দৃশ্যমানতা প্রদান করতে যে কোন অননুমোদিত AI এজেন্টরা তাদের ডেটা পরিবেশের সাথে ইন্টারঅ্যাক্ট করছে। শুধুমাত্র কর্মচারীদের সতর্ক থাকতে বলা যথেষ্ট নয়; প্রতিষ্ঠানগুলির অবশ্যই মানব আবেগ এবং স্বয়ংক্রিয় মিথস্ক্রিয়ার সংযোগস্থল পরিচালনার জন্য সিস্টেম থাকতে হবে।

সোশ্যাল ইঞ্জিনিয়ারিংয়ের ভবিষ্যৎ

আমরা কি হ্যাকারদের দেখতে পারি যারা একাকী ব্যক্তিদের ব্যাপকভাবে উৎপাদিত ফ্লার্ট বট দিয়ে লক্ষ্য করছে? Collard বিশ্বাস করেন এটি ইতিমধ্যে ঘটছে।

"সোশ্যাল ইঞ্জিনিয়ারিং সবসময় আবেগ, জরুরিতা, ভয়, কৌতূহল, প্রেম এবং আকর্ষণ শোষণ করে স্কেল করা হয়েছে," তিনি মন্তব্য করেন। "AI কেবল এটিকে স্কেলে স্বয়ংক্রিয় করে। যা আমাকে সবচেয়ে বেশি উদ্বিগ্ন করে তা হলো প্রযুক্তি নিজেই নয়, বরং এটি কীভাবে দূষিত উদ্দেশ্য আছে এমন ব্যক্তিদের ক্ষমতায়ন করে মানব ঘনিষ্ঠতা বিশ্বাসযোগ্যভাবে প্রতিফলিত করতে, উদাহরণস্বরূপ পদ্ধতিগত রোমান্স স্ক্যামার।"

Collard-এর মতে, কয়েক বছরের মধ্যে, স্ক্যাম "প্রিয় স্যার/ম্যাডাম" ধরনের থেকে আবেগজনিতভাবে বুদ্ধিমান ম্যানিপুলেশনে বিকশিত হয়েছে। "এবং এটি বট নিজেরাই সমস্যা নয়, এটি স্ক্যামারদের দ্বারা তাদের ইচ্ছাকৃত ব্যবহার," তিনি বলেন।

তিনি একটি অবৈধ LoveGPT বটের উদাহরণ উল্লেখ করেন যা স্ক্যামারদের সঠিক মনস্তাত্ত্বিকভাবে ট্রিগারিং জিনিস বলতে সাহায্য করে যাতে তাদের শিকারদের মধ্যে নির্ভরতা তৈরি এবং আবেগ সক্রিয় করা যায়। "স্ক্যামারদের যা করতে হবে তা হলো কপি এবং পেস্ট করা বা এমনকি কথোপকথন স্বয়ংক্রিয় করা," তিনি বলেন।

ব্যবহারকারীদের শিকার হওয়া প্রতিরোধ করতে কী করা যেতে পারে? সবসময়ের মতো, প্রতিরক্ষা মানবিক থাকে, Collard জোর দিয়ে বলেন। "শেষ পর্যন্ত, কোনো চ্যাটবট, যতই মনোযোগী বা আবেগজনিতভাবে দক্ষ হোক না কেন, প্রকৃত মানব সংযোগের বিকল্প হতে পারে না," তিনি জোর দেন।

যদি একটি চ্যাটবটের সাথে একটি মিথস্ক্রিয়া আবেগজনিতভাবে প্রতিস্থাপনমূলক, গোপন বা দূরে সরে যাওয়া কঠিন মনে হতে শুরু করে, তিনি বিশ্বাস করেন যে এটি থামার এবং একজন বিশ্বস্ত ব্যক্তি বা পেশাদারের কাছে পৌঁছানোর সংকেত। "প্রযুক্তি আধুনিক জীবনের একটি অংশ হতে পারে, তবে এর অর্থ হলো আমাদের ডিজিটাল মাইন্ডফুলনেস দক্ষতা শক্তিশালী করতে হবে যাতে ম্যানিপুলেশন বা প্ররোচিত নির্ভরতা সনাক্ত করতে শিখতে পারি। সবশেষে, যখন একাকীত্ব, দুর্বলতা এবং প্রেমের কথা আসে, সবচেয়ে নিরাপদ প্রতিরক্ষা দৃঢ়ভাবে মানবিক থাকে," তিনি উপসংহারে বলেন।