সরকারি এআই ইঞ্জিনিয়ারদের এআই নীতিশাস্ত্রে ঢালাই করা একটি চ্যালেঞ্জ হিসেবে দেখা হয়

জন পি. ডেসমন্ড, এআই ট্রেন্ডস এডিটর দ্বারা

প্রকৌশলীরা জিনিসগুলিকে সম্পূর্ণরূপে দেখেন, যাকে কেউ কেউ কালো এবং সাদা পদ বলতে পারে, যেমন সঠিক এবং ভুল এবং ভাল এবং খারাপের মধ্যে বেছে নেওয়া। AI-তে নৈতিকতার ধারণাটি অত্যন্ত সূক্ষ্ম, বিস্তৃত ধূসর এলাকা সহ, এটি AI সফ্টওয়্যার ইঞ্জিনিয়ারদের জন্য তাদের কাজে প্রয়োগ করা চ্যালেঞ্জিং করে তুলেছে।

এটি ছিল ভবিষ্যত মান এবং নৈতিক এআই সংক্রান্ত একটি অধিবেশনের একটি অংশ এআই বিশ্ব সরকার সম্মেলনটি ব্যক্তিগতভাবে এবং কার্যত এই সপ্তাহে আলেকজান্দ্রিয়া, ভার্জিনিয়ায় অনুষ্ঠিত হয়েছিল।

সম্মেলনের সামগ্রিক ধারণা হল যে ফেডারেল সরকারের বিশাল এন্টারপ্রাইজ জুড়ে প্রায় প্রতি ত্রৈমাসিকে এআই এবং নৈতিকতার আলোচনা হচ্ছে এবং এই সমস্ত পৃথক এবং স্বাধীন প্রচেষ্টার মধ্যে যে পয়েন্টগুলি তৈরি করা হচ্ছে তাতে সামঞ্জস্য রয়েছে।

“আমরা প্রকৌশলীরা প্রায়শই নীতিশাস্ত্রকে একটি অস্পষ্ট জিনিস হিসাবে ভাবি যা আসলেই কেউ ব্যাখ্যা করেনি,” বলেছেন বেথ-অ্যান শুয়েলকে-লিচ, ইউনিভার্সিটি অফ উইন্ডসর, অন্টারিও, কানাডার ইঞ্জিনিয়ারিং ম্যানেজমেন্ট এবং এন্টারপ্রেনারশিপের সহযোগী অধ্যাপক, ফিউচার অফ এথিক্যাল এআই সেশনে বক্তৃতা করেন৷ “প্রকৌশলীদের জন্য কংক্রিটের সীমাবদ্ধতাগুলিকে নৈতিক হওয়া কঠিন হতে পারে। এটি সত্যিই জটিল হয়ে ওঠে কারণ আমরা জানি না এর প্রকৃত অর্থ কী।”

Schuelke-Leach একজন প্রকৌশলী হিসেবে তার কর্মজীবন শুরু করেন, তারপর পাবলিক পলিসিতে পিএইচডি করার সিদ্ধান্ত নেন, এমন একটি পটভূমি যা তাকে একজন প্রকৌশলী এবং একজন সমাজ বিজ্ঞানী হিসেবে দেখতে সক্ষম করে। “আমি সামাজিক বিজ্ঞানে পিএইচডি করেছি, এবং আমাকে প্রকৌশল জগতে ফিরিয়ে আনা হয়েছে, যেখানে আমি AI প্রকল্পে জড়িত, কিন্তু মেকানিক্যাল ইঞ্জিনিয়ারিং অনুষদে,” তিনি বলেছিলেন।

একটি প্রকৌশল প্রকল্পের একটি লক্ষ্য থাকে যা উদ্দেশ্য বর্ণনা করে, প্রয়োজনীয় বৈশিষ্ট্য এবং ফাংশনগুলির একটি সেট এবং বাজেট এবং টাইমলাইনের মতো সীমাবদ্ধতার একটি সেট, “মান এবং নিয়মগুলি সীমাবদ্ধতার অংশ হয়ে যায়,” তিনি বলেছিলেন। “যদি আমি জানি যে আমাকে মেনে চলতে হবে, আমি করব। কিন্তু আপনি যদি আমাকে বলেন এটা করা ভালো জিনিস, আমি মেনে চলতে পারি বা নাও করতে পারি।”

Schuelke-Leach এছাড়াও IEEE সোসাইটির কমিটি অন সোশ্যাল ইমপ্লিকেশনস অফ টেকনোলজি স্ট্যান্ডার্ডের চেয়ারম্যান হিসেবে কাজ করে। তিনি মন্তব্য করেছেন, “আইইইই-এর মতো স্বেচ্ছাসেবী সম্মতি মানগুলি শিল্পের লোকেদের একত্রিত হওয়ার জন্য অপরিহার্য যা আমরা মনে করি যে আমাদের একটি শিল্প হিসাবে করা উচিত।”

কিছু মান, যেমন আন্তঃকার্যযোগ্যতা, আইনের বল নেই কিন্তু প্রকৌশলীরা তাদের মেনে চলে তাই তাদের সিস্টেম কাজ করবে। অন্যান্য মানগুলিকে ভাল অনুশীলন হিসাবে বর্ণনা করা হয়েছে, তবে সেগুলি অনুসরণ করার প্রয়োজন নেই। “এটি আমাকে আমার লক্ষ্য অর্জনে সাহায্য করে বা আমাকে লক্ষ্যে পৌঁছাতে বাধা দেয়, প্রকৌশলী এটিকে এভাবেই দেখেন,” তিনি বলেছিলেন।

AI নীতিশাস্ত্র অন্বেষণ করা “অগোছালো এবং কঠিন” হিসাবে বর্ণনা করা হয়েছে

Schuelke-Leach-এর সাথে সেশনে, ফিউচার অফ প্রাইভেসি ফোরামের সিনিয়র কাউন্সেল সারা জর্ডান AI এবং মেশিন লার্নিংয়ের নৈতিক চ্যালেঞ্জ নিয়ে কাজ করেন এবং IEEE গ্লোবাল ইনিশিয়েটিভ অন এথিক্স অ্যান্ড অটোনোমাস অ্যান্ড ইন্টেলিজেন্ট সিস্টেমের সক্রিয় সদস্য। “নৈতিকতা অগোছালো এবং কঠিন, এবং প্রেক্ষাপটে পূর্ণ। আমাদের কাছে তত্ত্ব, কাঠামো এবং নির্মাণের বিস্তার রয়েছে,” তিনি বলেন, “নৈতিক AI অনুশীলনের জন্য প্রেক্ষাপটে পুনরাবৃত্তিযোগ্য, কঠোর চিন্তাভাবনা প্রয়োজন।”

Schuelke-Leach প্রস্তাব করেন, “নৈতিকতা শেষ ফলাফল নয়। এটি অনুসরণ করা প্রক্রিয়া। কিন্তু আমি এমন একজনকেও খুঁজছি যে আমাকে বলবে আমার কাজ করার জন্য আমাকে কী করতে হবে, আমাকে বলবেন কীভাবে নৈতিক হতে হবে, আমার কোন নিয়ম অনুসরণ করা উচিত, অস্পষ্টতা দূর করে।”

“আপনি যখন মজার শব্দ ছুড়ে দেন তখন তারা বুঝতে পারে না, ‘অন্টোলজিকাল’ এর মতো ইঞ্জিনিয়াররা চুপ করে যান। তারা 13 বছর বয়স থেকে গণিত এবং বিজ্ঞান নিয়ে আসছেন,” তিনি বলেছিলেন।

তারা নৈতিক AI এর জন্য মান খসড়া করার প্রচেষ্টায় ইঞ্জিনিয়ারদের জড়িত করা কঠিন বলে মনে করেছে। “টেবিল থেকে ইঞ্জিনিয়াররা অনুপস্থিত,” তিনি বলেছিলেন। “আমরা 100% নৈতিকতা অর্জন করতে পারি কিনা তা নিয়ে বিতর্ক একটি কথোপকথন যা ইঞ্জিনিয়ারদের নেই।”

তিনি উপসংহারে বলেছিলেন, “যদি তাদের পরিচালকরা তাদের এটি বের করতে বলেন, তবে তারা তা করবে। আমাদের প্রকৌশলীদের সেতুটি অর্ধেক পথ অতিক্রম করতে সাহায্য করতে হবে। এটি অপরিহার্য যে সমাজ বিজ্ঞানী এবং প্রকৌশলীরা এটিকে ছেড়ে দেবেন না।”

নেতার প্যানেল এআই বিকাশের অনুশীলনের সাথে নীতিশাস্ত্রের একীকরণ বর্ণনা করে

ইউএস নেভাল ওয়ার কলেজ অফ নিউপোর্ট, আরআই-এর পাঠ্যক্রমে AI-তে নীতিশাস্ত্রের বিষয়টি আরও উঠে আসছে, যেটি ইউএস নেভি অফিসারদের জন্য উন্নত অধ্যয়ন প্রদানের জন্য প্রতিষ্ঠিত হয়েছিল এবং এখন সমস্ত পরিষেবার নেতাদের শিক্ষিত করে। রস কফি, ইনস্টিটিউটের জাতীয় নিরাপত্তা বিষয়ক সামরিক অধ্যাপক, এআই ওয়ার্ল্ড গভর্নমেন্টের এআই, নীতিশাস্ত্র এবং স্মার্ট নীতির একটি নেতা প্যানেলে অংশগ্রহণ করেছিলেন।

“শিক্ষার্থীদের নৈতিক সাক্ষরতা সময়ের সাথে সাথে বৃদ্ধি পায় কারণ তারা এই নৈতিক বিষয়গুলির সাথে মোকাবিলা করছে, এই কারণেই এটি একটি জরুরি বিষয় কারণ এটি অনেক সময় নেবে,” কফি বলেন।

প্যানেলের সদস্য ক্যারল স্মিথ, কার্নেগি মেলন ইউনিভার্সিটির একজন সিনিয়র গবেষণা বিজ্ঞানী যিনি মানব-মেশিন মিথস্ক্রিয়া অধ্যয়ন করেন, 2015 সাল থেকে AI সিস্টেমের বিকাশে নীতিশাস্ত্রকে একীভূত করার সাথে জড়িত। তিনি AI কে রহস্যময় করার গুরুত্ব উল্লেখ করেছেন।

তিনি বলেন, “আমি বুঝতে আগ্রহী যে আমরা কী ধরনের মিথস্ক্রিয়া তৈরি করতে পারি যেখানে মানুষ সঠিকভাবে যে সিস্টেমের সাথে তারা আচরণ করছে তার উপর আস্থা রাখছে, এটিকে অতিরিক্ত বা কম বিশ্বাস করে না,” তিনি বলেছিলেন।

উদাহরণ হিসাবে, তিনি টেসলা অটোপাইলট বৈশিষ্ট্যগুলি উদ্ধৃত করেছেন, যা স্ব-ড্রাইভিং গাড়ির ক্ষমতাকে কিছুটা হলেও বাস্তবায়িত করে৷ “লোকেরা অনুমান করে যে সিস্টেমটি এটির জন্য ডিজাইন করা হয়েছে তার চেয়ে অনেক বিস্তৃত ক্রিয়াকলাপ সম্পাদন করতে পারে। সিস্টেমের সীমাবদ্ধতাগুলি বুঝতে লোকেদের সাহায্য করা গুরুত্বপূর্ণ। প্রত্যেকেরই সিস্টেমের প্রত্যাশিত ফলাফল এবং কিছু প্রশমিত পরিস্থিতি কী হতে পারে তা বুঝতে হবে,” তিনি বলেছিলেন।

প্যানেল সদস্য টাকা আরিগা, ইউএস গভর্নমেন্ট একাউন্টিবিলিটি অফিসে নিযুক্ত প্রথম প্রধান ডেটা সায়েন্টিস্ট এবং GAO-এর ইনোভেশন ল্যাবের ডিরেক্টর, ফেডারেল সরকারে আসা তরুণ কর্মীবাহিনীর জন্য AI সাক্ষরতার ব্যবধান দেখেন। “ডেটা সায়েন্টিস্ট ট্রেনিং সবসময় নৈতিকতাকে অন্তর্ভুক্ত করে না। অ্যাকাউন্টেবল এআই একটি প্রশংসনীয় গঠন, কিন্তু আমি নিশ্চিত নই যে সবাই এতে কিনবে। আমাদের প্রযুক্তিগত দিকগুলির বাইরে যেতে হবে এবং আমরা যে ব্যবহারকারীকে পরিষেবা দেওয়ার চেষ্টা করছি তার কাছে দায়বদ্ধ হওয়ার জন্য তাদের জবাবদিহি করতে হবে,” তিনি বলেন।

প্যানেল মডারেটর অ্যালিসন ব্রুকস, পিএইচডি, মার্কেট রিসার্চ ফার্ম IDC-এর স্মার্ট সিটিস অ্যান্ড কমিউনিটির রিসার্চ ভিপি, নৈতিক AI নীতিগুলি জাতিগুলির সীমানা জুড়ে ভাগ করা যেতে পারে কিনা জিজ্ঞাসা করেছিলেন।

“আমাদের প্রতিটি দেশের জন্য একই সঠিক পদ্ধতিতে সারিবদ্ধ করার সীমিত ক্ষমতা থাকবে, তবে আমরা এআইকে যা করতে দেব না সে বিষয়ে আমাদের কিছু উপায়ে সারিবদ্ধ হতে হবে এবং জনগণকেও এর জন্য দায়বদ্ধ করা হবে,” সিএমইউ-এর স্মিথ বলেছেন।

প্যানেলিস্টরা ইউরোপীয় কমিশনকে এই নৈতিকতার বিষয়ে, বিশেষ করে প্রয়োগের ক্ষেত্রে অগ্রভাগে থাকার জন্য কৃতিত্ব দিয়েছেন।

নেভাল ওয়ার কলেজের রস, এআই নীতিশাস্ত্রের আশেপাশে সাধারণ ভিত্তি খোঁজার গুরুত্ব স্বীকার করেছেন। “একটি সামরিক দৃষ্টিকোণ থেকে, আমাদের আন্তঃকার্যক্ষমতা সম্পূর্ণ নতুন স্তরে যেতে হবে। আমাদের অংশীদার এবং মিত্রদের সাথে আমরা এআইকে কী করতে দেব এবং আমরা এআইকে কী করতে দেব না সে বিষয়ে আমাদের সাধারণ ভিত্তি খুঁজে বের করতে হবে।” দুর্ভাগ্যবশত, “আমি জানি না কি আলোচনা করা হচ্ছে,” তিনি বলেছিলেন।

স্মিথ পরামর্শ দিয়েছিলেন যে AI নীতিশাস্ত্র সম্ভবত কিছু বিদ্যমান চুক্তির অংশ হিসাবে আলোচনা করা যেতে পারে

একাধিক ফেডারেল এজেন্সি জুড়ে প্রবর্তিত অনেক AI নৈতিকতার নীতি, কাঠামো এবং রাস্তার মানচিত্র অনুসরণ করা এবং সামঞ্জস্য করা চ্যালেঞ্জিং হতে পারে। “আমি আশাবাদী যে আগামী দুই বছরে আমরা সংহতি দেখতে পাব,” টেক বলেছে।

আরও তথ্যের জন্য এবং রেকর্ড করা সেশনগুলিতে অ্যাক্সেসের জন্য, দেখুন এআই বিশ্ব সরকার.