[ad_1]
জেনারেটর এআই এর ব্যবহার আরও সাধারণ হয়ে উঠছে, তবে এটি সহজাত ঝুঁকি, সুরক্ষা এবং ডেটা গোপনীয়তার একটি বৃহত্তর তাত্ক্ষণিক হিসাবে আসে। এই ঝুঁকিগুলি পরিচালনা করা ভয়ঙ্কর মনে হতে পারে তবে তাদের মাধ্যমে চলাচল করার পথ রয়েছে তবে প্রথমে আপনাকে কী তা সনাক্ত করতে হবে।
আমরা পরামর্শের সাথে রবার্ট ডব্লিউ টেলরের সাথে কথা বলেছি কার্সটেনস, অ্যালেন এবং হারলি, এলএলপি সমস্ত প্রাসঙ্গিক ঝুঁকি চিহ্নিত করতে ব্যর্থতা কীভাবে ব্যবসায়গুলি অপ্রত্যাশিত আইনী দায়বদ্ধতার জন্য উন্মুক্ত রাখতে পারে তা নিয়ে আলোচনা করা।
বিএন: জেনারেটর এআই মোতায়েনের সাথে জড়িত ঝুঁকিগুলি কী কী?
আরডব্লিউটি: সর্বাধিক প্রচলিত এআই মোতায়েনগুলি এখন জেনারেটর এআই (জেনাই) এর সাথে জড়িত কেসগুলি ব্যবহার করে প্রচুর সহজাত ঝুঁকির সাথে রয়েছে। সুরক্ষা এবং ডেটা গোপনীয়তা হ’ল সর্বাধিক তাত্ক্ষণিক ঝুঁকিপূর্ণ লোকদের রেফারেন্স, তবে প্রযুক্তিগুলি হ্যালুসিনেট করা বা ত্রুটি বা পক্ষপাত তৈরি করা সহ আরও অনেকগুলি রয়েছে। এমআইটি এআইয়ের সাথে 777 বিভাগের ঝুঁকি চিহ্নিত করেছে। অন্যদের সাথে আমি কাজ করি কেবল সুরক্ষায় ঝুঁকিপূর্ণ বিভাগগুলির একটি বেশি সংখ্যক চিহ্নিত করেছে। যাইহোক, এই সম্ভাবনা ঝুঁকির ধরণ যা উত্থিত হতে পারে। তারা প্রতিটি ব্যবহারের ক্ষেত্রে অগত্যা উত্থিত হয় না।
একটি জটিল কারণ হ’ল প্রাসঙ্গিক ঝুঁকি এবং ভেরিয়েবলগুলি ব্যবহারের ক্ষেত্রে ব্যবহারের ক্ষেত্রে পরিবর্তিত হয় এবং প্রতিটি স্থাপনার সত্যের উপর নির্ভরশীল। তবুও আরেকটি জটিলতা হ’ল এই ঝুঁকিগুলি এবং ঝুঁকির আপেক্ষিক ডিগ্রি একটি সমাধান স্থাপনার জীবনচক্র জুড়ে ক্রমাগত পরিবর্তিত হয়।
সহজাত ঝুঁকিগুলির অনেকগুলি অনিচ্ছাকৃত পরিণতি যা প্রথম ব্লাশে সহজেই স্পষ্ট হয় না।
বিএন: এই ঝুঁকিগুলি প্রশমিত করতে ব্যবসায়ীরা কী করতে পারে?
আরডব্লিউটি: এই ঝুঁকিগুলির মধ্যে নেভিগেট করার একটি পথ রয়েছে, তবে প্রথমে আপনাকে অবশ্যই সনাক্ত করতে হবে যে সেগুলি হ্রাস করার জন্য ঝুঁকিগুলি কী তা সনাক্ত করতে হবে। সমস্ত প্রাসঙ্গিক ঝুঁকি সনাক্ত করতে ব্যর্থতার ফলে অপ্রত্যাশিত আইনী দায়বদ্ধতা হতে পারে।
প্রাসঙ্গিক ঝুঁকির উপর একটি হ্যান্ডেল পাওয়ার একমাত্র উপায় হ’ল একটি সামগ্রিক আইনী ঝুঁকি মূল্যায়ন করা যা এআই সমাধানের গভীরতর পরীক্ষা এবং এটি প্রদত্ত ব্যবহারের ক্ষেত্রে কীভাবে কাজ করে তা জড়িত। এটি কোনও নির্দিষ্ট ব্যবহারের ক্ষেত্রে কীভাবে ব্যবহৃত হয় তার উপর নির্ভর করে একটি এআই সমাধানের বিভিন্ন ঝুঁকি প্রোফাইল থাকতে পারে।
আপনার সমাধান এবং অপারেশনগুলিতে এআই ইনজেকশনের পুরো সংস্থা জুড়ে একটি ক্যাসকেডিং প্রভাব রয়েছে। যেমন অনেকগুলি ঝুঁকি বিভাগ রয়েছে, তেমনি, অনেকগুলি ঝুঁকি প্রশমন ব্যবস্থাও গ্রহণ করা যেতে পারে। উদাহরণগুলির মধ্যে এআই দায়বদ্ধতার সমাধানের জন্য গ্রাহক চুক্তি আপডেট করা, ব্যবহারকারীর ইন্টারফেসে এআই-উত্পাদিত সামগ্রীর কার্যকর নোটিশ সরবরাহ করা, লুপে মানব হওয়ার জন্য ব্যবহারকারীর প্রয়োজনীয়তা সম্পর্কে পপ-আপ নোটিশ এবং নির্ভুলতার জন্য আউটপুটগুলি বৈধতা দেওয়া অন্তর্ভুক্ত রয়েছে।
একটি জেনাই প্রযুক্তির তদারকি করতে সক্ষম হতে এবং এটি দুর্বৃত্ত হয়ে চলেছে কিনা তা নির্ধারণ করতে আপনার জানতে হবে যে আপনি এলএলএমকে কী করতে বলছেন এবং জেনাই আউটপুটগুলি সঠিক কিনা। এখানেই মানুষের তদারকি আসে।
সাম্প্রতিক আইনী চ্যালেঞ্জগুলি এখানে শিক্ষণীয়। এয়ার কানাডার বিরুদ্ধে আনা একটি মামলায়, বিমান সংস্থাটিকে এমন একটি চ্যাটবট ব্যবহার করার জন্য দায়বদ্ধ ছিল যা হ্যালুসিনেট করে এবং কোনও গ্রাহককে বলেছিল যে এটি টিকিট কিনতে পারে এবং পরে শোকের ক্রেডিট পেতে পারে। লুপে একজন মানুষ থাকা চ্যাটের সময় কোনও চ্যাট পরিস্থিতিতে প্রযুক্তিগতভাবে সম্ভব নাও হতে পারে, কারণ এটি চ্যাটবট ব্যবহারের উদ্দেশ্যকে পরাস্ত করবে, আপনি অবশ্যই সত্যের পরে লুপটিতে একজন মানুষ থাকতে পারেন, সম্ভবত একটি নমুনা ভিত্তিতে, চ্যাটবটকে (এটি) হেলিউকিং করার জন্য দ্রুত সনাক্তকরণের জন্য দ্রুত সনাক্ত করা যেতে পারে কিনা তা পরীক্ষা করে দেখার জন্য দ্রুত সনাক্ত করা যায় কিনা তা পরীক্ষা করে দেখার জন্য।
সংস্থাগুলি এআই এবং প্রযুক্তি বোঝে এমন একজন আইনজীবীর দ্বারা একটি সামগ্রিক আইনী ঝুঁকি মূল্যায়ন পরিচালনা করতে হবে, যারা ঝুঁকিগুলি সনাক্ত করতে ক্রস-ফাংশনাল দলগুলির সাথে কাজ করতে পারে, প্রতিটি ঝুঁকির জন্য প্রশমন বিকল্পগুলি নিয়ে আসে এবং ব্যবহারের ক্ষেত্রে অনুসারে একটি সম্মতি পরিকল্পনা তৈরি করতে পারে। এই সমস্যাগুলি পরিচালনা করতে এবং ক্লায়েন্টদের তাদের এআই যাত্রায় যেখানেই থাকুক না কেন যথাযথভাবে পরামর্শ দেওয়ার জন্য ফার্মটি তার এআই ট্রাইজ সেন্টার তৈরি করেছে।
বিএন: প্রথম দর্শনে প্রদর্শিত হয়নি এমন গোপন ঝুঁকি বা উচ্চ ঝুঁকি নিয়ে কীভাবে নির্দিষ্ট জেনাই মোতায়েনগুলি শেষ হয়েছিল তার উদাহরণগুলি কি আপনার কাছে রয়েছে?
আরডব্লিউটি: চ্যাটবটস এর দুর্দান্ত উদাহরণ। এগুলি বিভিন্ন উদ্দেশ্যে সমস্ত শিল্প জুড়ে ব্যাপকভাবে মোতায়েন করা হচ্ছে। আমার মূল্যায়নগুলি করার সময়, আমাকে প্রায়শই বলা হয় যে ‘একটি চ্যাটবট একটি চ্যাটবট’ এবং তারা সকলেই একই এবং নিরীহ। এটি একটি মিথ। ঝুঁকি প্রোফাইল ব্যবহারের ক্ষেত্রে অত্যন্ত নির্ভরশীল। উদাহরণস্বরূপ, আমি দেখতে পাচ্ছি যে প্রচুর সংস্থাগুলি এইচআর প্রসঙ্গে চ্যাটবট ব্যবহার করে কোম্পানির নীতি এবং পদ্ধতি সম্পর্কে প্রশ্নের উত্তর দিতে।
প্রতিভা এবং এইচআর এ এআই ব্যবহার সাধারণত একটি উচ্চ-ঝুঁকির ক্রিয়াকলাপ। আমি এখানে যে চ্যাটবট উদাহরণটি দিচ্ছি তা হ’ল যদি কোনও কর্মচারী কোনও চ্যাটবট জিজ্ঞাসা করেন, “কখন খোলা তালিকাভুক্তি বন্ধ হয়?” চ্যাটবট হ্যালুসিনেটস এবং বলেছে যে এটি 31 ডিসেম্বর বন্ধ হয়ে যায়, যখন বাস্তবে এটি 31 অক্টোবর বন্ধ হয়ে যায়। কর্মচারী নববর্ষের প্রাক্কালে অপেক্ষা করে কেবল বেনিফিটের জন্য সাইন আপ করার জন্য কেবল এটি খুঁজে পাওয়ার জন্য যে তিনি উইন্ডোটি মিস করেছেন। ফলস্বরূপ, কর্মচারী পরের বছর স্বাস্থ্য বীমা পান না। এর খুব শীঘ্রই কর্মচারী ক্যান্সারে আক্রান্ত হয় এবং মেডিকেল বিলে 500,000 ডলার ব্যয় করে। কে তার জন্য হুক আছে? যুক্তিযুক্তভাবে নিয়োগকর্তা এবং সম্ভাব্যভাবে চ্যাটবোটের বিক্রেতা।
লুকানো ঝুঁকির আরেকটি উদাহরণ হ’ল আরেকটি প্রতিভা এবং এইচআর ব্যবহারের ক্ষেত্রে। সংস্থাগুলি নিয়োগ, ফিল্টারিং রেজ্যুমিং এবং প্রদত্ত চাকরি খোলার জন্য শীর্ষ প্রার্থীদের সন্ধানে সহায়তা করার জন্য এআই সমাধানগুলি ব্যাপকভাবে উপার্জন করছে। এই এআই নিয়োগের সমাধানগুলির মধ্যে একটি মূল্যায়নের ক্ষেত্রে, আমি সিটিওকে পক্ষপাতিত্ব হ্রাস করার জন্য সমাধানটি কীভাবে ডিজাইন করা হয়েছিল সে সম্পর্কে উন্নয়নের প্রচেষ্টার নেতৃত্ব দিয়েছি। তিনি প্রতিক্রিয়া জানিয়েছিলেন যে এটি একটি অসম্ভবতা কারণ লিঙ্গ, নাম, জাতি ইত্যাদির মতো ব্যক্তিগত তথ্যগুলির কোনওটিই সমাধান দ্বারা আটকানো হয়নি। পক্ষপাতিত্ব চালাতে পারে এমন সমস্ত ডেটা ছিনিয়ে নেওয়া হয়েছিল। আমি তাঁর সাথে অনুশীলনের মধ্য দিয়ে গিয়েছিলাম এবং ব্যাখ্যা করেছি যে আপনি বছরের পর বছর ধরে historical তিহাসিক নিয়োগের ডেটা, পুনঃসূচনা, কাজের অফার, প্রত্যাখ্যান ইত্যাদির সমাধান প্রশিক্ষণ দিচ্ছেন সমাধানটি জানতে পারে যে একটি নির্দিষ্ট বিশ্ববিদ্যালয়ের লোকেরা কখনই কোনও কাজের অফার বা কোনও সাক্ষাত্কার গ্রহণ করে না। সমাধানটি একটি সমিতি আঁকায় এবং শিখেছে যে নির্দিষ্ট বিশ্ববিদ্যালয়টি অপমানিত এবং তাই সেই স্কুল থেকে প্রার্থীদের ডি-র্যাঙ্ক করে, যার অর্থ সেই বিশ্ববিদ্যালয় থেকে ভবিষ্যতের আবেদনকারীরা কোনও চাকরি খোলার জন্য দৌড়াতে শীর্ষ কাটাকে করেন না। সেই বিশ্ববিদ্যালয়টি হাওয়ার্ড বিশ্ববিদ্যালয় হিসাবে ঘটে যা মূলত কালো বা আফ্রিকান আমেরিকান ছাত্র জনসংখ্যার। কোনও জাতি বা জাতিগোষ্ঠীর তথ্য গ্রহণ না করা সত্ত্বেও এআই সমাধানটি কীভাবে পক্ষপাত তৈরি করতে পারে।
বিএন: আইনী দৃষ্টিকোণ থেকে, আপনি কি বিকাশকারী বা জেনাই সলিউশনগুলির ব্যবহারকারীদের বিরুদ্ধে মামলা করা দেখছেন? নাকি দুজনেই?
আরডব্লিউটি: শেষ ব্যবহারকারী এবং বিকাশকারীদের সম্ভাব্য দায়বদ্ধতা রয়েছে এবং অনেকগুলি কারণে মামলা করা হচ্ছে যা সমস্ত এআইয়ের সাথে আসা ঝুঁকির সাথে ফিরে আসে। প্যাটাগোনিয়ার বিরুদ্ধে সাম্প্রতিক শ্রেণীর একটি পদক্ষেপ আনা হয়েছিল যা তার কল সেন্টারে তৃতীয় পক্ষের এআই সমাধান মোতায়েন করেছিল যা গ্রাহক কলগুলিতে শুনছিল, সেগুলি প্রতিলিপি করে এবং বিশ্লেষণ করে। এই মামলার ভিত্তি এই সত্যের উপর নির্ভর করে যে পাতাগোনিয়া এই ব্যবহারের নোটিশ সরবরাহ করে না এবং/অথবা কলকারীদের কাছ থেকে সম্মতি অর্জন করে না। অন্যান্য সংস্থাগুলি তাদের এআই চ্যাটবটগুলির বিরুদ্ধে মামলা করা হয়েছে যা হ্যালুসিনেট করে। আমরা এলএলএম মডেলগুলির নির্মাতাদের চেয়ে ব্যবহারকারী এবং বিকাশকারীদের উপর দৃষ্টি নিবদ্ধ করে এআই মামলা মোকদ্দমার দ্বিতীয় পর্যায়ে প্রবেশ করার সাথে সাথে আরও অনেক ক্ষেত্রে অনুসরণ করতে পারে। আমরা বিভিন্ন রাজ্য অ্যাটর্নি জেনারেল দ্বারা প্রচুর ক্রিয়াকলাপও দেখছি যা এআই সলিউশনগুলির বিকাশকারী এবং ডিপ্লোয়ারদের উভয় ক্ষেত্রেই তদন্ত খুলছে। এটি আশা করা যায় কারণ এআই একটি উত্তপ্ত বিষয়, এবং আমরা সাধারণত সরকারী সংস্থাগুলি তাদের অস্তিত্বকে ন্যায়সঙ্গত করার জন্য ‘খারাপ অভিনেতাদের’ সম্বোধনের জন্য সক্রিয় দেখছি।
বিএন: ডিপসেকের মতো নতুন প্রযুক্তি প্রবর্তনের সাথে ঝুঁকি এবং সম্ভাব্য মামলাগুলির ক্ষেত্রে আপনি কীভাবে এই স্থানটি বিকশিত হতে দেখছেন?
আরডব্লিউটি: সময় এটি সম্পর্কে বলবে। আমি মনে করি ডিপসিকের সাথে সরাসরি সাইন আপ করা সংস্থাগুলি সতর্ক হওয়া উচিত যে গোপনীয়তা এবং ডেটা চীনে সংরক্ষণ করা হচ্ছে এবং বিশ্বজুড়ে অ্যাটর্নি জেনারেল এবং নিয়ন্ত্রক সংস্থাগুলির তদন্তের ক্রমবর্ধমান সংখ্যার বিষয়ে সমস্ত উদ্বেগের কারণে।
চিত্র ক্রেডিট:: Ra2studio/ডিপোজিটফোটস ডটকম
[ad_2]
