ফেডারেল সরকারের এআই ইঞ্জিনিয়াররা কীভাবে জবাবদিহিতার অনুশীলনগুলি গ্রহণ করে

জন পি. ডেসমন্ড, এআই ট্রেন্ডস এডিটর দ্বারা

ফেডারেল সরকারের মধ্যে এআই বিকাশকারীরা কীভাবে এআই জবাবদিহিতার অনুশীলনগুলি গ্রহণ করছে তা দুটি অভিজ্ঞতা তুলে ধরে এআই বিশ্ব সরকার ঘটনাটি কার্যত এবং ব্যক্তিগতভাবে এই সপ্তাহে আলেকজান্দ্রিয়া, ভার্জিনিয়ায় অনুষ্ঠিত হয়েছিল।

টাকা আরিয়াগা, চিফ ডেটা সায়েন্টিস্ট এবং মার্কিন যুক্তরাষ্ট্রের পরিচালক সরকারি জবাবদিহি অফিস, তিনি তার এজেন্সির মধ্যে যে এআই দায়বদ্ধতা কাঠামো ব্যবহার করেন এবং এটি অন্যদের কাছে উপলব্ধ করার পরিকল্পনা করেন তার বর্ণনা দিয়েছেন।

এবং ব্রাইস গুডম্যান, এআই এবং মেশিন লার্নিংয়ের প্রধান কৌশলবিদ প্রতিরক্ষা উদ্ভাবন ইউনিট (DIU), মার্কিন সামরিক বাহিনীকে দ্রুত উদীয়মান বাণিজ্যিক প্রযুক্তি ব্যবহার করতে সাহায্য করার জন্য প্রতিষ্ঠিত প্রতিরক্ষা বিভাগের একটি ইউনিট, একজন প্রকৌশলী প্রয়োগ করতে পারে এমন পরিভাষায় AI উন্নয়নের নীতিগুলি অনুবাদ করার জন্য তার ইউনিটে কাজ বর্ণনা করেছে।

আরিয়াগা, মার্কিন সরকারের জবাবদিহি অফিসে নিযুক্ত প্রথম প্রধান তথ্য বিজ্ঞানী এবং GAO-এর ইনোভেশন ল্যাবের পরিচালক, আলোচনা করেছেন এআই জবাবদিহির কাঠামো তিনি সরকার, শিল্প, অলাভজনক, সেইসাথে ফেডারেল ইন্সপেক্টর জেনারেল কর্মকর্তা এবং এআই বিশেষজ্ঞদের বিশেষজ্ঞদের একটি ফোরাম আহ্বান করে উন্নয়নের নেতৃত্বে সহায়তা করেছিলেন।

“আমরা এআই দায়বদ্ধতা কাঠামোর উপর একটি নিরীক্ষকের দৃষ্টিভঙ্গি নিচ্ছি,” আরিয়াগা বলেছেন। “GAO যাচাইকরণের ব্যবসায় রয়েছে।”

একটি আনুষ্ঠানিক কাঠামো তৈরির প্রচেষ্টা 2020 সালের সেপ্টেম্বরে শুরু হয়েছিল এবং 60% মহিলার সমন্বয়ে দু’দিনের আলোচনা অন্তর্ভুক্ত ছিল, যাদের মধ্যে 40% কম প্রতিনিধিত্ব করা হয়েছিল। এই প্রয়াসটি একজন ইঞ্জিনিয়ারের দৈনন্দিন কাজের বাস্তবতায় একটি AI জবাবদিহির কাঠামোকে এম্বেড করার ইচ্ছা দ্বারা চালিত হয়েছিল। ফলস্বরূপ ফ্রেমওয়ার্ক প্রথম জুনে প্রকাশিত হয়েছিল যা আরিগা “সংস্করণ 1.0” হিসাবে বর্ণনা করেছিল।

পৃথিবীতে “উচ্চ উচ্চতার মুদ্রা” আনার চেষ্টা

“আমরা দেখতে পেয়েছি যে AI জবাবদিহিতার কাঠামোটি খুব উচ্চ-হাত দিয়েছিল,” আরিয়াগা বলেছিলেন। “এগুলি প্রশংসনীয় আদর্শ এবং আকাঙ্খা, কিন্তু দৈনন্দিন এআই অনুশীলনকারীদের জন্য এগুলি কী বোঝায়? আমরা সরকার জুড়ে AI ছড়িয়ে পড়া দেখতে দেখতে একটি ফাঁক রয়েছে।”

“আমরা একটি জীবনচক্র পদ্ধতিতে অবতরণ করেছি,” যা নকশা, উন্নয়ন, স্থাপনা এবং ক্রমাগত পর্যবেক্ষণের পর্যায়ে যায়। উন্নয়ন প্রচেষ্টা শাসন, তথ্য, পর্যবেক্ষণ এবং কর্মক্ষমতার চারটি “স্তম্ভ” এর উপর দাঁড়িয়েছে।

AI প্রচেষ্টার তদারকি করার জন্য সংস্থাটি কী করেছে তা প্রশাসন পর্যালোচনা করে। “প্রধান এআই অফিসার জায়গায় থাকতে পারে, কিন্তু এর মানে কি? সেই ব্যক্তি কি পার্থক্য করতে পারে? এটা কি বহুবিভাগীয়?” এই স্তম্ভের মধ্যে সিস্টেম স্তরে, দলটি পৃথক AI মডেলগুলি পর্যালোচনা করবে যে সেগুলি “ইচ্ছাকৃতভাবে বিবেচনা করা হয়েছে” কিনা।

তথ্য স্তম্ভের জন্য, তার দল পরীক্ষা করবে কিভাবে প্রশিক্ষণের তথ্য মূল্যায়ন করা হয়েছে, এটি কতটা প্রতিনিধিত্বমূলক এবং এটি প্রত্যাশিতভাবে কাজ করছে কিনা।

পারফরম্যান্স পিলারের জন্য, দলটি এআই সিস্টেম স্থাপনের “সামাজিক প্রভাব” বিবেচনা করবে, এতে নাগরিক অধিকার আইন লঙ্ঘনের ঝুঁকি রয়েছে কিনা তা সহ। “অডিটরদের ইক্যুইটি মূল্যায়নের একটি দীর্ঘ ট্র্যাক রেকর্ড রয়েছে। আমরা একটি প্রমাণিত পদ্ধতির উপর AI এর মূল্যায়নের ভিত্তি করেছি,” আরিয়াগা বলেছেন।

“এআই এমন একটি প্রযুক্তি নয় যা আপনি স্থাপন করেন এবং ভুলে যান,” তিনি ক্রমাগত পর্যবেক্ষণের গুরুত্বের উপর জোর দিয়ে বলেছিলেন। তিনি ড. “আমরা ক্রমাগত মডেল ড্রিফ্ট এবং অ্যালগরিদম ভঙ্গুরতা নিরীক্ষণ করার জন্য প্রস্তুতি নিচ্ছি, এবং আমরা যথাযথভাবে AI উন্নত করছি।” মূল্যায়ন নির্ধারণ করবে যে এআই সিস্টেম প্রয়োজনীয়তা পূরণ করতে থাকবে কিনা “বা সূর্যাস্ত আরও উপযুক্ত কিনা,” আরিয়াগা বলেছেন।

তিনি একটি সম্পূর্ণ-সরকারি AI জবাবদিহিতার কাঠামো নিয়ে NIST-এর সাথে আলোচনার অংশ। “আমরা বিভ্রান্তির পরিবেশ চাই না,” আরিয়াগা বলেছেন। “আমরা একটি সম্পূর্ণ-সরকারি পদ্ধতি চাই। আমরা মনে করি এটি এআই অনুশীলনকারীদের জন্য উচ্চ-স্তরের ধারণাগুলিকে একটি অর্থপূর্ণ স্তরে নিয়ে যাওয়ার জন্য একটি কার্যকর প্রথম পদক্ষেপ।”

DIU মূল্যায়ন করে যে প্রস্তাবিত প্রকল্পগুলি নৈতিক এআই নির্দেশিকা পূরণ করে কিনা

DIU-তে, গুডম্যান সরকারের মধ্যে এআই প্রকল্পের বিকাশকারীদের জন্য নির্দেশিকা তৈরি করার জন্য একই ধরনের প্রচেষ্টায় জড়িত।

গুডম্যান মানবিক সহায়তা এবং দুর্যোগ প্রতিক্রিয়া, ভবিষ্যদ্বাণীমূলক রক্ষণাবেক্ষণ, কাউন্টার-ডিসইনফরমেশন, এবং ভবিষ্যদ্বাণীমূলক স্বাস্থ্যের জন্য AI বাস্তবায়ন অন্তর্ভুক্ত করেছে। তিনি দায়িত্বশীল এআই ওয়ার্কিং গ্রুপের প্রধান। তিনি সিঙ্গুলারিটি ইউনিভার্সিটির একজন ফ্যাকাল্টি মেম্বার, সরকারের অভ্যন্তরে এবং বাইরে পরামর্শক ক্লায়েন্টদের একটি বিস্তৃত পরিসর রয়েছে এবং অক্সফোর্ড বিশ্ববিদ্যালয় থেকে এআই এবং দর্শনে পিএইচডি করেছেন।

2020 সালের ফেব্রুয়ারিতে DoD পাঁচটি ক্ষেত্র গ্রহণ করেছে AI এর জন্য নৈতিক নীতি বাণিজ্যিক শিল্প, সরকারী একাডেমিয়া এবং আমেরিকান জনসাধারণের AI বিশেষজ্ঞদের সাথে 15 মাস পরামর্শের পর। এই ক্ষেত্রগুলি হল: জবাবদিহিযোগ্য, ন্যায়সঙ্গত, সন্ধানযোগ্য, বিশ্বাসযোগ্য এবং শাসনযোগ্য।

এআই ওয়ার্ল্ড গভর্নমেন্ট ইভেন্টে দায়বদ্ধ এআই নির্দেশিকাগুলির একটি উপস্থাপনায় গুড বলেছেন, “এগুলি ভালভাবে ধারণা করা হয়েছে, তবে কোনও প্রকৌশলীর কাছে এটি কীভাবে একটি নির্দিষ্ট প্রকল্পের প্রয়োজনে অনুবাদ করা যায় তা স্পষ্ট নয়।” “এটি সেই শূন্যস্থান যা আমরা পূরণ করার চেষ্টা করছি।”

ডিআইইউ একটি প্রকল্প বিবেচনা করার আগে, এটি সফল হতে পারে কিনা তা দেখার জন্য তারা নৈতিক নীতিগুলি অধ্যয়ন করে। সমস্ত প্রকল্প এটি করে না। “প্রযুক্তি নেই বা সমস্যাটি AI এর সাথে সামঞ্জস্যপূর্ণ নয় বলার বিকল্প থাকা উচিত,” তিনি বলেছিলেন।

বাণিজ্যিক বিক্রেতা এবং সরকারের মধ্যে থাকা সমস্ত প্রকল্পের স্টেকহোল্ডারদের নীতিগুলি পূরণ করতে এবং ন্যূনতম আইনি প্রয়োজনীয়তার বাইরে যেতে পরীক্ষা এবং বৈধতা সম্পাদন করতে সক্ষম হতে হবে। “আইনটি AI এর মতো দ্রুত গতিতে চলছে না, তাই এই নীতিগুলি গুরুত্বপূর্ণ,” তিনি বলেছিলেন।

উপরন্তু, মূল্যবোধ সংরক্ষণ ও রক্ষণাবেক্ষণ নিশ্চিত করতে সরকার জুড়ে চলমান সহযোগিতা রয়েছে। “এই নির্দেশিকাগুলির সাথে আমাদের উদ্দেশ্য নিখুঁততা অর্জনের চেষ্টা করা নয়, তবে বিপর্যয়কর ফলাফল এড়ানো,” গুডম্যান বলেছিলেন। “সর্বোত্তম ফলাফল কী তা নিয়ে একটি গোষ্ঠীকে একমত করা কঠিন হতে পারে, তবে সবচেয়ে খারাপ-ক্ষেত্রের ফলাফল কী তা নিয়ে একটি গোষ্ঠীকে একমত করা সহজ।”

DIU নির্দেশিকা, কেস স্টাডি এবং সম্পূরক উপকরণ সহ, DIU ওয়েবসাইটে “শীঘ্রই” প্রকাশিত হবে, গুডম্যান বলেছেন, অন্যদের অভিজ্ঞতার সুবিধা নিতে সাহায্য করতে।

উন্নয়ন শুরু করার আগে DIU-এর যে প্রশ্নগুলো করা উচিত তা এখানে রয়েছে

নির্দেশিকাগুলির প্রথম ধাপ হল কাজটি সংজ্ঞায়িত করা। “এটি সবচেয়ে গুরুত্বপূর্ণ প্রশ্ন,” তিনি বলেছিলেন। “শুধুমাত্র যদি একটি সুবিধা থাকে তবে আপনার এআই ব্যবহার করা উচিত।”

পরবর্তী একটি মানদণ্ড যা প্রকল্পটি সম্পূর্ণ হয়েছে কিনা তা জানার জন্য সামনে রাখা দরকার।

এরপরে, তিনি প্রার্থীর ডেটার মালিকানা মূল্যায়ন করেন। “এআই সিস্টেমের জন্য ডেটা গুরুত্বপূর্ণ এবং এখানেই অনেক সমস্যা থাকতে পারে।” গুডম্যান বলেছেন। “আমাদের একটি সুনির্দিষ্ট চুক্তি দরকার যে ডেটার মালিক কে। অস্পষ্ট হলে, এটি সমস্যার কারণ হতে পারে।”

এরপরে, গুডম্যানের দল মূল্যায়নের জন্য ডেটার একটি নমুনা চায়। তারপর, তাদের জানতে হবে কীভাবে এবং কেন তথ্য সংগ্রহ করা হয়েছিল। “যদি সম্মতি একটি উদ্দেশ্যে দেওয়া হয়, আমরা আবার সম্মতি না নিয়ে অন্য উদ্দেশ্যে এটি ব্যবহার করতে পারি না,” তিনি বলেছিলেন।

এরপরে, দলটি জিজ্ঞাসা করে যে দায়ী স্টেকহোল্ডারদের চিহ্নিত করা হয়েছে কিনা, যেমন পাইলট যারা একটি উপাদান ব্যর্থ হলে প্রভাবিত হতে পারে।

পরবর্তীতে, দায়ী মিশন-ধারকদের চিহ্নিত করা উচিত। “আমাদের এটি করার জন্য একজন ব্যক্তির প্রয়োজন,” গুডম্যান বলেছিলেন। “প্রায়শই আমাদের অ্যালগরিদমের পারফরম্যান্স এবং এর ব্যাখ্যাযোগ্যতার মধ্যে একটি লেনদেন হয়। আমাদের উভয়ের মধ্যে সিদ্ধান্ত নিতে হতে পারে। এই ধরনের সিদ্ধান্তগুলির একটি নৈতিক উপাদান এবং একটি অপারেশনাল উপাদান রয়েছে। তাই আমাদের এমন কাউকে প্রয়োজন যিনি এই সিদ্ধান্তগুলির জন্য দায়বদ্ধ, DoD-এর চেইন অফ কমান্ডের সাথে সামঞ্জস্যপূর্ণ।”

সবশেষে, ডিআইইউ টিমের একটি প্রক্রিয়া দরকার যদি কিছু ভুল হয়ে যায়। তিনি বলেন, আগের ব্যবস্থা পরিত্যাগ করার ব্যাপারে আমাদের সতর্ক হতে হবে।

একবার এই সমস্ত প্রশ্নের সন্তোষজনক উত্তর দেওয়া হলে, দলটি বিকাশের পর্যায়ে চলে যায়।

শেখা পাঠ সম্পর্কে, গুডম্যান বলেছেন, “মেট্রিক্স গুরুত্বপূর্ণ। এবং শুধুমাত্র নির্ভুলতা পরিমাপ যথেষ্ট নাও হতে পারে। আমাদের সাফল্য পরিমাপ করতে সক্ষম হতে হবে।”

এছাড়াও, কাজের মধ্যে প্রযুক্তি মাপসই. “উচ্চ-ঝুঁকির অ্যাপ্লিকেশনগুলির জন্য কম-ঝুঁকির প্রযুক্তির প্রয়োজন হয়। এবং যখন সম্ভাব্য ক্ষতি তাৎপর্যপূর্ণ হয়, তখন আমাদের প্রযুক্তির উপর উচ্চ আস্থা থাকতে হবে,” তিনি বলেছিলেন।

আরেকটি পাঠ শিখেছি বাণিজ্যিক বিক্রেতাদের সাথে প্রত্যাশা সেট করা হয়. “আমাদের বিক্রেতাদের স্বচ্ছ হতে হবে,” তিনি বলেছিলেন। “যখন কেউ বলে যে তাদের একটি মালিকানাধীন অ্যালগরিদম আছে যা তারা আমাদের বলতে পারে না, আমরা খুব সতর্ক হয়ে যাই। আমরা সম্পর্কটিকে একটি সহযোগিতা হিসাবে দেখি। এটিই একমাত্র উপায় যে আমরা নিশ্চিত করতে পারি যে AI দায়িত্বের সাথে বিকশিত হয়েছে।”

পরিশেষে, “এআই জাদু নয়। এটি সব কিছুর সমাধান করবে না। এটি শুধুমাত্র যখন প্রয়োজন তখনই ব্যবহার করা উচিত এবং শুধুমাত্র যখন আমরা প্রমাণ করতে পারি এটি সুবিধা প্রদান করবে।”

এখানে আরো জানুন এআই বিশ্ব সরকারকিন্তু সরকারি জবাবদিহি অফিস, কিন্তু এআই জবাবদিহির কাঠামো এবং প্রতিরক্ষা উদ্ভাবন ইউনিট সাইট