শ্যাডো এআই কি শ্যাডো আইটি থেকে খারাপ?

একটি শান্ত অফিস নিরীহ দেখাতে পারে। আলোয় স্নাত মনিটরের র‍্যাক, কথোপকথন ঢেকে রাখা হেডফোন এবং কাজের গুঞ্জন চলতে থাকে কোনো চিহ্ন ছাড়াই যে নীচে কিছু অশুভ লুকিয়ে আছে। কিন্তু ক্রমবর্ধমানভাবে, সেখানে আকস্মিক, অননুমোদিত প্রযুক্তি রয়েছে — এখানে একটি ব্যক্তিগত ক্লাউড ফোল্ডার এবং সেখানে একটি অননুমোদিত AI চ্যাটবট। শীঘ্রই, সংস্থাকে এই সমস্ত নতুন অপ্রত্যাশিত ঝুঁকি পরিচালনা করতে হবে। কিন্তু শ্যাডো IT ছিল লুকানো হুমকির প্রথম লোড মাত্র। শ্যাডো AI বাজি বাড়িয়েছে।

শ্যাডো AI কী এবং কেন এটি বাড়ছে

শ্যাডো IT-এর একটি সম্প্রসারণ, শ্যাডো AI-এ কর্মচারীরা অননুমোদিত প্রযুক্তি ব্যবহার করে। শ্যাডো IT সাধারণত ভোক্তা প্রযুক্তিকে বোঝায়, যেমন ফাইল-শেয়ারিং অ্যাপ বা ব্যক্তিগত ডিভাইস। শ্যাডো AI সাধারণত দ্রুত-চলমান, ডেটা-ক্ষুধার্ত সিস্টেম জড়িত যাদের আচরণ অনিয়মিত হতে পারে।

\ Gartner দ্বারা পরিচালিত গবেষণা অনুসারে, 80% সংস্থা ডেটা গভর্নেন্সে ফাঁক অনুভব করে। এই ফাঁকগুলি মানুষের জন্য AI-জেনারেটেড আচরণ মিস করা সহজ করে তোলে। অনেক টিম সাইবার সিকিউরিটি প্রস্তুতি মূল্যায়ন ব্যর্থ হয়। AI সম্পর্কিত ঝুঁকি কর্মচারীদের দ্বারা নতুন টুল গ্রহণ করার মাধ্যমে বৃদ্ধি পায় যা তাদের টিম পর্যাপ্তভাবে পর্যালোচনা করতে পারে না। যেহেতু 30% ডেটা লঙ্ঘন বিক্রেতা বা সরবরাহকারীদের থেকে উৎপন্ন হয়, একটি টিম কী টুল ব্যবহার করে তা জানা একটি কোম্পানির ডিজিটাল সম্পদ সুরক্ষিত করার একটি গুরুত্বপূর্ণ উপাদান।

\ শ্যাডো AI জনপ্রিয়তা অর্জন করেছে কারণ কর্মচারীরা AI-জেনারেটেড কন্টেন্টকে কন্টেন্ট তৈরি করার দ্রুততর উপায়, জটিল তথ্য সংক্ষিপ্ত করার এবং প্রযুক্তিগত সমস্যা সমাধান করার উপায় হিসেবে দেখে। এটি দৈনন্দিন কাজে ঘর্ষণ কমায় কিন্তু শ্যাডো IT উদ্বেগের সাথে পূর্বে না দেখা ঝুঁকি প্রবর্তন করে, যার মধ্যে রয়েছে ডেটা এক্সপোজার, কমপ্লায়েন্স ঝুঁকি এবং মডেল-লেভেল ঝুঁকি।

শ্যাডো AI বনাম শ্যাডো IT

শ্যাডো IT দীর্ঘকাল ধরে অজানা দুর্বলতার জন্য দোষারোপ করা হয়েছে। আগের লঙ্ঘনের একটি উচ্চ শতাংশ অস্বাক্ষরিত SaaS টুল বা ব্যক্তিগত স্টোরেজের কারণে ছিল। AI টুল সম্পূর্ণরূপে সমীকরণ পরিবর্তন করে। যে স্কেল এবং গতিতে তারা কাজ করে, তাদের অস্বচ্ছতার সাথে, এমন ঝুঁকি তৈরি করে যা সনাক্ত করা এবং নিয়ন্ত্রণ করা আরও কঠিন।

\ 78% সংস্থা উৎপাদনে AI ব্যবহার করে, কিছু লঙ্ঘন এখন অপরিচালিত প্রযুক্তি এক্সপোজারের কারণে হয়। বৃহত্তর IT মডেল এখনও গুরুত্বপূর্ণ, কিন্তু AI আক্রমণের পৃষ্ঠ প্রসারিত করার জন্য একটি নতুন মাত্রা প্রবর্তন করে।

শ্যাডো AI এবং শ্যাডো IT এর মধ্যে মূল পার্থক্য

শ্যাডো AI শ্যাডো IT এর মতো যে উভয়ই কর্মচারীর আরও উৎপাদনশীল হওয়ার ইচ্ছা থেকে উদ্ভূত, কিন্তু তারা ঝুঁকি কোথায় রয়েছে তাতে পৃথক।

• শ্যাডো IT টুলগুলির নির্দিষ্ট লজিক রয়েছে, যা আচরণকে অনুমানযোগ্য করে তোলে। শ্যাডো AI টুলের আচরণ পূর্বাভাস দেওয়া আরও জটিল কারণ মডেলগুলি ক্রমাগত পরিবর্তন এবং পুনরায় প্রশিক্ষণ দেওয়া যেতে পারে।
• শ্যাডো IT ঝুঁকির মধ্যে রয়েছে অনুমোদন ছাড়া ডেটা সংরক্ষণ বা স্থানান্তর করা। শ্যাডো AI ঝুঁকির মধ্যে রয়েছে মডেল বিপরীতকরণ, ডেটা বিষাক্তকরণ এবং মডেল প্রশিক্ষণ।
• শ্যাডো IT নির্ধারণাত্মক, যখন AI টুল হ্যালুসিনেট করতে পারে, খারাপভাবে সাধারণীকরণ করতে পারে এবং অতিবিশ্বাসের সাথে ভুল আউটপুট উৎপন্ন করতে পারে।

\ শ্যাডো AI আসন্ন নিয়ন্ত্রণের প্রেক্ষাপটেও উদ্ভূত হয়, যেমন EU আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যাক্ট, যা নিয়ন্ত্রক তদারকি বাড়াতে পারে।

নিরাপত্তা ঝুঁকি যা শ্যাডো AI কে আরও জরুরি করে তোলে

শ্যাডো AI ইঞ্জিনিয়ারিং, মার্কেটিং এবং অর্থনীতিতে সমস্যার দিকে নিয়ে যেতে পারে। যেহেতু AI আউটপুটের উপর ভিত্তি করে সিদ্ধান্ত নেওয়া হয়, মালিকানাধীন ডেটা ফাঁস হতে পারে এবং অভ্যন্তরীণ ব্যবসায়িক প্রক্রিয়াগুলি কারও লক্ষ্য না করে ম্যানিপুলেট করা যেতে পারে।

\

• মডেল ম্যানিপুলেশন: আক্রমণকারীরা এমন ডেটা তৈরি করতে পারে যা ফলাফল বিকৃত করে।
• প্রম্পট ইনজেকশন এক্সপোজার: একটি তৈরি করা প্রম্পট একটি মডেল থেকে ব্যক্তিগত তথ্য বের করতে ব্যবহার করা যেতে পারে।
• ডেটা লিনিয়েজ গ্যাপ: AI টুল এমন উপায়ে ডেটা তৈরি এবং সংরক্ষণ করতে পারে যা নিরাপত্তা টিম ট্র্যাক করতে পারে না।
• কমপ্লায়েন্স ড্রিফ্ট: AI টুল পরিবর্তন হয়, এবং বিকশিত গভর্নেন্স পরিকল্পনা অপ্রাসঙ্গিক হয়ে যেতে পারে।

\ জেনারেটিভ AI এর আগমনের সাথে উদ্বেগ বাড়ে। একটি বিক্রেতার প্রশ্নের উত্তর দেওয়া চ্যাটবট বা একটি জেনারেটিভ AI সারাংশ নিরীহ মনে হতে পারে, কিন্তু এটি সংবেদনশীল ব্যবহারের ডেটা বা মূল্যবান মালিকানাধীন বৌদ্ধিক সম্পত্তি প্রকাশ করার ঝুঁকি নেয়। কার্নেগি মেলন বিশ্ববিদ্যালয় দেখেছে যে বড় ভাষা মডেলগুলি নিয়ম-ভিত্তিক সিস্টেমের তুলনায় বিরোধী প্রম্পটের জন্য অনেক বেশি দুর্বল। সমস্যা বাড়ে যখন কর্মচারীরা তত্ত্বাবধান ছাড়া টুল ব্যবহার করতে পারে।

\ একটি AI-সক্ষম সিদ্ধান্ত বৃক্ষ একটি প্রথাগত সিদ্ধান্ত বৃক্ষের চেয়ে বেশি পক্ষপাতদুষ্ট হতে পারে। শ্যাডো AI প্রায়ই তৃতীয় পক্ষের টুলে ফিড করা অসম্পূর্ণ প্রশিক্ষণ তথ্য পায়। AI সিস্টেমের কাঠামোগত তত্ত্বাবধান আপডেটের অখণ্ডতা নিশ্চিত করবে। যখন টিম এটি উপেক্ষা করে, তখন মডেলের ডেটা এবং আচরণ ড্রিফ্ট হয়।

কিভাবে নিরাপত্তা টিম শ্যাডো AI এক্সপোজার কমাতে পারে

যদিও শ্যাডো AI অসংখ্য ঝুঁকি উপস্থাপন করে, সংস্থাগুলি দৃশ্যমানতা, নীতি এবং প্রযুক্তিগত নিয়ন্ত্রণের সংমিশ্রণের মাধ্যমে তাদের অনেকগুলি প্রশমিত করতে পারে, এমন একটি ভারসাম্য বজায় রাখে যা কর্মচারীদের সময়-সাপেক্ষ চেক-ইন বা ব্লক করা সাইট দিয়ে বোঝা না দিয়ে কর্মচারীদের উৎপাদনশীলতা রক্ষা করে। নিরাপত্তা টিমগুলি শ্যাডো AI কে শাস্তির বিষয় নয় বরং গভর্নেন্সের বিষয় হিসেবে বিবেচনা করে উপকৃত হয়। প্রশমন কৌশলগুলি অবশ্যই বিকশিত হতে হবে যেহেতু কর্মচারীরা উৎপাদনশীলতা উন্নত করতে AI টুল ব্যবহার করে।

1. একটি স্পষ্ট AI গভর্নেন্স ফ্রেমওয়ার্ক তৈরি করুন

একটি গভর্নেন্স পরিকল্পনা নির্দিষ্ট করা উচিত কোন AI টুল অনুমোদন করতে হবে, কর্মচারীরা কোন ধরনের ডেটা ব্যবহার করতে পারে, উচ্চ-স্টেকস সিদ্ধান্ত নেওয়ার আগে মডেল আউটপুট কীভাবে পর্যালোচনা করতে হবে এবং একটি অপ্রত্যাশিত মডেল আচরণ ঘটলে কী করতে হবে। পরবর্তী উপাদানের মধ্যে রয়েছে কে আচরণ পর্যালোচনা করে, কে এর কারণ অনুসন্ধান করে এবং পরিণতি কী।

\ তত্ত্বাবধান স্থাপন করে, সংস্থাগুলি AI কে অন্য যেকোনো এন্টারপ্রাইজ সম্পদের মতো আচরণ করতে পারে, একই ট্রেসেবিলিটি, অডিটেবিলিটি, নিরাপত্তা এবং কমপ্লায়েন্স দায়িত্বের অধীন যেমন অন্যান্য লিগ্যাসি এন্টারপ্রাইজ সিস্টেম।

2. অনুমোদিত AI টুল প্রদান করুন

যাচাইকৃত, কেন্দ্রীভূত AI টুলে অ্যাক্সেস সহ টিমগুলি ব্লকার বাইপাস করতে অননুমোদিত পাবলিক AI-এ ফিরে যাওয়ার সম্ভাবনা কম। যেহেতু চাকরিগুলি আরও স্বয়ংক্রিয় হয়ে যাচ্ছে, কর্মীরা বিভিন্ন মডেলে আরও বেশি প্রচেষ্টা ঢালবে। কর্মীরা ইতিমধ্যে চাকরিতে AI ব্যবহার করে সাপ্তাহিক প্রায় 4.6 ঘন্টা ব্যয় করছে, যা সাপ্তাহিক 3.6 ঘন্টার গড় ব্যক্তিগত ব্যবহারের সময় অতিক্রম করে। তৃতীয় পক্ষের AI, উপযুক্ত নিরীক্ষণ ছাড়া, ইতিমধ্যে যাচাইকৃত এবং অনুমোদিত এন্টারপ্রাইজ টুলের চেয়ে বেশি সাধারণ হতে পারে। কোম্পানিগুলির তাদের নীতি প্রয়োগ করার জন্য অবিলম্বে পদক্ষেপ নেওয়া উচিত।

\ একটি পরিচালিত পরিবেশের সাথে, সংস্থাগুলি টুলের মাধ্যমে ব্যবহার নিরীক্ষণ করতে পারে, ডাটাবেসের মধ্যে অনুমতি সেট করতে পারে এবং বিভাগগুলি জুড়ে ডেটা গভর্নেন্স প্রয়োগ করতে পারে। এটি কর্মচারীদের উৎপাদনশীলতা উন্নত করে এবং একই সাথে ব্যবসার ডেটা অখণ্ডতা এবং কমপ্লায়েন্স রক্ষা করে।

3. ডেটা মুভমেন্ট এবং মডেল ব্যবহার নিরীক্ষণ করুন

দৃশ্যমানতা টুল যা অস্বাভাবিক আচরণ ফ্ল্যাগ করে — যেমন AI ব্যবহারে হঠাৎ বৃদ্ধি, অস্বাভাবিক এন্ডপয়েন্টে ডেটা আপলোড করা, বা সংবেদনশীল ডেটা সহ স্বল্প সময়ের মধ্যে মডেল অ্যাক্সেস করা — নিরাপত্তা টিমকে অপব্যবহার এবং ডেটা ফাঁস সনাক্ত করতে সাহায্য করতে পারে। রিপোর্ট ইঙ্গিত দেয় যে গত বছরে, 60% পর্যন্ত কর্মচারী অননুমোদিত AI টুল ব্যবহার করেছে এবং 93% অনুমোদন ছাড়া কোম্পানির ডেটা ইনপুট করার কথা স্বীকার করেছে।

\ এই প্যাটার্নগুলি প্রাথমিকভাবে সনাক্ত করা প্রতিকার, পুনঃশিক্ষা, অনুমতি পুনঃকনফিগারেশন বা প্রক্রিয়া সমাপ্তি সক্ষম করতে পারে ডেটা ফাঁস বা কমপ্লায়েন্স লঙ্ঘনের দিকে নিয়ে যাওয়ার আগে।

4. কর্মচারীদের AI-নির্দিষ্ট ঝুঁকি সম্পর্কে প্রশিক্ষণ দিন

সাধারণভাবে সাইবার সিকিউরিটি প্রশিক্ষণ যথেষ্ট নয়। AI প্রম্পটের পিছনে উদ্দেশ্য ভুল ব্যাখ্যা করে হ্যালুসিনেট করতে পারে এবং দেখতে কর্তৃত্বশীল, মিথ্যা বা পক্ষপাতদুষ্ট কন্টেন্ট তৈরি করতে পারে। অতিরিক্তভাবে, কর্মীদের বুঝতে হবে যে AI-এর ব্যবহার সফ্টওয়্যার বা পরিষেবার ব্যবহার থেকে আলাদা। নিরাপদ ব্যবহারের জন্য মানসিক মডেল পরিবর্তন, প্রম্পট ঝুঁকি বোঝা এবং ব্যক্তিগত ডেটা পরিচালনা করা প্রয়োজন।

\ বেসিক মেশিন সাক্ষরতা সহ ব্যবহারকারীরা আউটপুট যাচাই করবে এবং ব্যক্তিগত ডেটা অতিরিক্ত শেয়ার করার সম্ভাবনা কম। তারা টুলগুলিকে মূল্যবান সহ-পাইলট হিসাবে বিবেচনা করবে, কিন্তু সেগুলি অবশ্যই মানব তত্ত্বাবধানে ব্যবহার করতে হবে।

শ্যাডো AI এর বিরুদ্ধে সংস্থা রক্ষা করা

শ্যাডো AI শ্যাডো IT এর তুলনায় দ্রুত বাড়ছে এবং সনাক্ত করা কঠিন। যদিও ঝুঁকির স্কেল এবং জটিলতা আলাদা, কর্মচারীদের সাহায্য নিয়োগ করা উভয়কেই আরও কার্যকরভাবে সনাক্ত করতে পারে। গভর্নেন্স নীতি কোম্পানিগুলিকে সঠিক ভারসাম্য বজায় রাখতে সাহায্য করতে পারে। নিরাপত্তা টিমগুলির তাদের এক্সপোজার পুনর্মূল্যায়ন করা উচিত, উদীয়মান হুমকির জন্য সতর্ক থাকা উচিত এবং অদৃশ্য AI-ভিত্তিক টুল ব্যবসায়িক অ্যাপ্লিকেশনে মৌলিক সিদ্ধান্ত নেওয়ার আগে দ্রুত পদক্ষেপ নেওয়া উচিত।