راځئ چې له پیل څخه روښانه شو: د هالنډ او اروپايي اتحادیې د اوسني قانون له مخې، یو الګوریتم د جرم لپاره په جرمي توګه مسؤل نه شي موندل کیدی. دا یو غیر پیل کونکی دی. اصلي قانوني مفکورې لکه د جرمي ارادې (mens rea) او قانوني شخصیت د انسانانو او په ځینو شرایطو کې، شرکتونو لپاره خوندي دی.
په هرصورت، دا ساده ځواب یوازې د یوې ډیرې پیچلې خبرې اترې پیل دی. د الګوریتم کړنې د هغو خلکو د ګناه - یا بې ګناهۍ - ثابتولو لپاره په بشپړ ډول مرکزي کیږي چې دوی رامینځته کوي، ځای پر ځای کوي او څارنه کوي.
ایا یو الګوریتم د جرم مجرم کیدی شي؟
کله چې موږ په جرمي کې د مصنوعي ذهانت په اړه خبرې کوو قانون په شرایطو کې، اصلي پوښتنه دا ده چې ایا الګوریتم کولی شي د تورن په څوکۍ کې پای ته ورسیږي. په قانوني توګه، نن ورځ ځواب یو کلک نه دی. مهمه نده چې دا څومره پیچلی وي، یو الګوریتم په ساده ډول هغه بنسټیز ځانګړتیاوې نلري چې د محاکمې لپاره اړین دي. دا هیڅ شعور نلري، د ضبط کولو لپاره شخصي شتمنۍ نلري، او د اخیستلو لپاره هیڅ آزادي نلري.
دا قانوني واقعیت دې ته اړ باسي چې د وسیلې څخه کارونکي ته پاملرنه واړوي. دا ګټوره ده چې د پرمختللي مصنوعي ذهانت سیسټم په اړه د یوې خورا پیچلې مګر په نهایت کې بې جان وسیلې په توګه فکر وکړئ - نه د ځان چلولو موټر یا د اتومات فابریکې ماشین برعکس. که ماشین زیان ورسوي، قانون ماشین نه محاکمه کوي؛ دا د هغې تر شا انسانانو پلټنه کوي.
د قانوني شخصیت او ارادې خنډونه
جرمي قانون په دوو ستنو جوړ شوی دی چې مصنوعي ذهانت یې په ساده ډول نشي پوره کولی: قانوني شخصیت او جرمي اراده. د دې لپاره چې هر بنسټ د محاکمې سره مخ شي، قانون باید هغه د "شخص" په توګه وپیژني، چې معنی یې یا طبیعي شخص (انسان) یا قانوني شخص (لکه شرکت) ده. د مصنوعي ذهانت سیسټمونه په هیڅ کټګورۍ کې نه راځي.
حتی په جدي توګه، ډیری جدي جرمونه د ثبوت ته اړتیا لري mens rea— یو "مجرم ذهن." دا د دې ثابتولو په اړه ده چې تورن د یو ځانګړي ذهني حالت سره عمل کړی، که دا اراده، پوهه، یا بې پروايي وه. یو الګوریتم په کوډ او معلوماتو چلیږي؛ دا ارادې نه جوړوي یا د خپلو کړنو اخلاقي غلطۍ نه پوهیږي.
مرکزي ستونزه د یو سیسټم د وړتیا څخه رامینځته کیږي چې په خپلواکه توګه غوره کړي او عمل وکړي، په دې توګه د انساني ارادې او پایله لرونکي زیان ترمنځ یو غیر انساني عامل داخلوي. دا په جرمي قانون کې د مسؤلیت منسوبولو دودیز ماډل ګډوډوي.
د دې لپاره چې مستقیم ټکي ته ورسیږو، قانون د پیړیو پخوانیو قانوني اصولو په خپلواکه ټیکنالوژۍ کې پلي کولو کې د ځینو مهمو خنډونو سره مخ دی. لاندې جدول اصلي ستونزه لنډیز کوي.
د الګوریتمیک جرمي مسؤلیت اوسنی حالت
| حقوقي مفهوم | د انسانانو لپاره غوښتنلیک | د مصنوعي ذهانت سیسټمونو لپاره غوښتنلیک |
|---|---|---|
| قانوني شخصیت | انسانان "طبیعي اشخاص" دي چې د قانون له مخې حقونه او دندې لري. شرکتونه کولی شي "قانوني اشخاص" وي. | د مصنوعي ذهانت سیسټم ملکیت یا وسیله ګڼل کیږي. دا هیڅ خپلواک قانوني حیثیت نلري. |
| جرمي اراده (د نارینه وو ریال) | څارنوالان باید "مجرم ذهن" ثابت کړي، لکه اراده، بې پروايي، یا د غلط کار پوهه. | یو الګوریتم د خپل پروګرام کولو او معلوماتو پر بنسټ کار کوي. دا شعور، باورونه، یا غوښتنې نلري. |
| فزیکي عمل (اکټس ریوس) | یو کس باید په خپله خوښه فزیکي عمل (یا د ګناه وړ تېروتنه) ترسره کړی وي. | د مصنوعي ذهانت "کړنې" د کوډ پایلې دي. دا په انساني معنی کې رضاکارانه کړنې ندي. |
| سزا | په بندیزونو کې بند، جریمه، یا ټولنیز خدمت شامل دي، چې هدف یې د غچ اخیستلو او مخنیوي لپاره دی. | یو مصنوعي ذهانت زنداني یا جریمه کېدای نشي. د کوډ "سزا ورکول" (د مثال په توګه، د هغې حذف کول) د قانوني چوکاټ سره سمون نه خوري. |
لکه څنګه چې تاسو لیدلی شئ، یو بنسټیز توپیر شتون لري. د جرمي قانون ټول جوړښت د انساني ادارې پر شاوخوا جوړ شوی دی، کوم چې AI نلري.
منسوب مسؤلیت د قانوني چوکاټ په توګه
نو، ځکه چې الګوریتم مجرم نه شي ګڼل کیدی، د هالنډ قانون د دې مفهوم باندې بیرته راځي منسوب مسؤلیت. دا په ساده ډول پدې معنی ده چې د مصنوعي ذهانت د کړنو مسؤلیت یو انسان یا شرکتي لوبغاړي ته سپارل شوی - یا منسوب شوی -. پدې سناریو کې، د مصنوعي ذهانت محصول د شواهدو یوه مهمه برخه ګرځي چې د هغې د انساني کنټرولرانو کړنو یا غفلت ته اشاره کوي.
دا تګلاره انقلابي نه ده. دا په مستقیم ډول منعکس کوي چې قانون څنګه د نورو پیچلو وسیلو په کارولو سره ترسره شوي جرمونه اداره کوي. د مثال په توګه، که چیرې یو شرکت په قصدي ډول یو خطرناک عیب لرونکی محصول وپلوري چې د ټپي کیدو لامل کیږي، شرکت او د هغې اجرایوي رییسان مسؤل ګڼل کیږي، نه پخپله محصول.
هغه اصول چې دا لارښوونه کوي د تاسیس شویو قانوني عقیدې سره سمون لري. د دې ځای د نیونې لپاره د قانوني مسلکیانو لپاره، د موجوده چوکاټونو قوي پوهه د پیل اړین ټکی دی. زموږ تفصيلي لارښود په دې اړه په هالنډ کې جرمي کړنلاره دا یوه ښه پرائمر وړاندې کوي چې دا قضیې څنګه له څېړنې څخه تر پرېکړې پورې حرکت کوي. اوس ننګونه له سره د نوي قوانینو ایجاد نه دی، بلکې د خپلواکو سیسټمونو بې ساري پیچلتیاوو سره د دې ثابت شویو اصولو تطبیق دی.
د هالنډ قانون څنګه د مصنوعي ذهانت له لارې چمتو شویو جرمونو پړه پر غاړه اخلي
څرنګه چې پخپله الګوریتم نشي محاکمه کیدی، د هالنډ قانوني سیسټم موجوده، انساني متمرکزو عقیدې ته مخه کوي ترڅو مسؤلیت په هغه ځای کې وټاکي چیرې چې دا اړین وي. د دې دندې لپاره اصلي قانوني وسیله د د فعالیت ترسره کول (د فعالیت پلار چاپ).
دا قوي اصل محکمې ته اجازه ورکوي چې یو شخص یا شرکت د هغه عمل لپاره چې دوی یې په فزیکي توګه نه دی ترسره کړی، په جرمي توګه مسؤل وګڼي، تر هغه چې دوی په مؤثره توګه د وضعیت کنټرول ولري.
په دې ډول فکر وکړئ: د ساختماني شرکت رییس په شخصي توګه په ساحه کې هر کرین نه چلوي. مګر که دوی په قصدي ډول یو چلونکي ته امر وکړي چې یو غلط کرین وکاروي او پیښه رامنځته شي، نو رییس په غاړه لري. ورته منطق هغه وخت پلي کیږي کله چې "کرین" یو پیچلی مصنوعي ذهانت سیسټم وي. تمرکز د هغه څه څخه چې الګوریتم یې کړی و د انسانانو پریکړو ته بدلیږي چې دا یې د پیښیدو اجازه ورکړه.
دا د هر هغه چا لپاره چې د مصنوعي ذهانت سره کار کوي یوه مهمه مفکوره ده، ځکه چې دا څارنوالانو ته مستقیمه لاره ورکوي چې د مصنوعي ذهانت زیان رسونکي محصول بیرته یو شخص یا شرکت سره وصل کړي. دا په ښه توګه د الګوریتم "اراده" ثابتولو ناممکن کار څخه مخنیوی کوي او پرځای یې د هغې د انساني مالکینو په ارادې او غفلت باندې صفر کوي.
د فعالیت د ترسره کولو دوه ازموینې
د دې لپاره چې یو څارنوال په محکمه کې د فعال جرم په اړه په بریالیتوب سره استدلال وکړي، دوی باید دوه مهمې ازموینې پوره کړي. دا معیارونه هغه ستنې دي چې دا ټاکي چې ایا یو شخص یا شرکت د مصنوعي ذهانت له لارې د ترسره شوي جرم "فعال" لیکوال په توګه لیدل کیدی شي.
-
د کنټرول ځواک (بېشکېکنګسماچټ): ایا فرد یا شرکت دا حقیقي واک درلود چې معلومه کړي چې ایا د مصنوعي ذهانت جرمي چلند به ترسره شي؟ دا ټول د واک او څارنې په اړه دي - لکه د مصنوعي ذهانت د عملیاتي قواعدو ټاکل، د هغې د بندولو وړتیا درلودل، یا هغه پیرامیټرې تعریف کول چې د هغې پریکړو ته لارښوونه کوي.
-
منل (انوارډینګ): ایا فرد یا شرکت دا خطر منلی چې جرمي عمل ممکن پیښ شي؟ په مهمه توګه، دا مستقیم ارادې ته اړتیا نلري. دا ثابت کیدی شي که چیرې دوی پوهیدل چې د زیان رسونکي پایلې چانس شتون لري مګر په شعوري ډول یې د کافي محافظت اقداماتو نه پلي کول غوره کړي.
دا دوه ستنې - کنټرول او منل - د دې بنسټ جوړوي چې د هالنډ قانون څنګه دې پوښتنې ته ځواب ورکوي، "ایا یو الګوریتم په جزوي ډول مسؤل کیدی شي؟". ځواب روښانه نه دی، مګر د هغې انساني کنټرولر ساتل کیدی شي په بشپړ ډول مسؤل
یوه عملي سناریو: د بې پیلوټه الوتکو خپلواکه ټپي کېدل
راځئ چې دا په یوه حقیقي نړۍ سناریو کې پلي کړو. تصور وکړئ چې یو لوژستیک شرکت د خپلواکو تحویلي ډرونونو بیړۍ ځای په ځای کوي. یو ډرون، چې د AI نیویګیشن سیسټم لخوا رهبري کیږي، د ګڼې ګوڼې په یوه عامه چوک کې خرابیږي او د جدي ټپي کیدو لامل کیږي.
یو څارنوال چې د شرکت په وړاندې قضیه جوړوي، په پراخه کچه د جرم په کاري چوکاټ تکیه کوي:
-
د کنټرول ثابتول: دوی به دا وښيي چې شرکت د ډرون بیړیو بشپړ کنټرول لري. شرکت د تحویلۍ لارې تنظیم کړې، د سافټویر تازه معلومات یې اداره کړل، او په هر وخت کې د ډرونونو د ځمکې لاندې کولو لپاره "د وژلو سویچ" یې وساته.
-
د منلو ثبوت: شواهد ممکن روښانه شي چې شرکت پوهیده چې د دوی مصنوعي ذهانت لري 5% په ګڼ مېشتو ښاري سیمو کې د تېروتنې کچه لوړه شوه، خو پریکړه یې وکړه چې د لګښتونو کمولو لپاره یې په هرصورت ځای پر ځای کړي. د دې پیژندل شوي خطر سره سره د سیسټم په چلولو سره، شرکت په مؤثره توګه د زیان رسونکي پایلو احتمال ومنلو.
د دې نظریې له مخې، شرکت د جرم مرتکب کیږي (د بیلګې په توګه، د غفلت له امله سخت جسماني زیان). مصنوعي ذهانت یوازې وسیله ده؛ د شرکت پریکړې چې ځای پرځای کړي او په مناسب ډول یې څارنه ونه کړي جرمي عمل جوړوي.
د شرکت مسؤلیت او لویه غفلت
د فعال جرم دا مفهوم په مستقیم ډول د شرکتونو جرمي مسؤلیت ته غځیږي. یو سازمان مسؤل کیدی شي که چیرې جرمي چلند په معقول ډول ورته منسوب شي. دا ډیری وختونه د لوی غفلت په قضیو کې پلي کیږي، چیرې چې د شرکت پالیسۍ - یا د هغې نشتوالی - یو چاپیریال رامینځته کړی چیرې چې د مصنوعي ذهانت لخوا پرمخ وړل شوی جرم نه یوازې ممکن و، بلکې د وړاندوینې وړ و.
که څه هم قانوني اصول ښه ثابت شوي دي، خو د مصنوعي ذهانت لپاره د دوی تطبیق لاهم شکل اخلي. په هالنډ کې، تر ۲۰۲۵ پورې، د زیانونو لپاره د جرمي مسؤلیت په اړه په ځانګړي ډول د محکمې کوم خپور شوی حکم نشته. یوازې د مصنوعي ذهانت سیسټم د خپلواکې پریکړې له مخې. دا ښیي چې قانوني ډګر لاهم د ټیکنالوژۍ سره لوبې کوي.
د اوس لپاره، څارنوالان دا عمومي نظریې تطبیقوي، هغه اشخاص مسؤل ګڼي که چیرې دوی AI کنټرول کړي او د غلطو کړنو لپاره یې د هغې احتمال ومني، لکه د بې پروایۍ وژنې قضیې چې د AI د بې پروایۍ عملیاتو له امله رامینځته کیږي. تاسو کولی شئ د اوسني حالت په اړه نور ولولئ د هالنډ په قانون کې مصنوعي ذهانت او د هغې اغیزې.
د حقوقي سلاکارانو لپاره، دا واقعیت په کلکه په یوه شی تمرکز کوي: د مسؤل بشري څارنې او د خطر مدیریت لپاره فعال چلند ښودل. د کنټرول نشتوالی ثابتول یا دا استدلال کول چې زیانمنونکې پایله په ریښتیا سره ناڅرګنده وه، د داسې تورونو په وړاندې د دفاع لپاره به مرکزي وي.
د اروپايي اتحادیې د مصنوعي ذهانت قانون اغیز په جرمي مسؤلیت باندې
پداسې حال کې چې د هالنډ کورني قانون لکه د فعالیت پلار چاپ د ملامتۍ د منسوبولو لپاره یو چوکاټ چمتو کوي، منظره په ډراماتیک ډول د یو ډیر پراخ نوښت لخوا بدلیږي: د اروپایي اتحادیې د مصنوعي استخباراتو قانون. دا یوازې د مقرراتو یوه بله برخه نه ده؛ دا د خطر پر بنسټ یو جامع چوکاټ دی چې د دې لپاره ډیزاین شوی چې څنګه د مصنوعي ذهانت سیسټمونه په واحد بازار کې رامینځته او ځای په ځای شي.
د حقوقي مسلکیانو او سوداګرو لپاره، د مصنوعي ذهانت قانون سره اشنا کیدل خورا مهم دي ځکه چې دا نوي اطاعت دندې رامینځته کوي چې په مستقیم ډول په جرمي مسؤلیت اغیزه لري. د دې سختو اړتیاو سره د عمل کولو کې پاتې راتلل د څارنوالانو لخوا د غفلت یا بې پروایۍ د قوي شواهدو په توګه کارول کیدی شي، چې د جرمي تورونو اساس جوړوي کله چې د مصنوعي ذهانت سیسټم زیان رسوي. دا قانون خبرې اترې یوازې د زیان په وړاندې د غبرګون څخه په فعاله توګه د هغې مخنیوي ته اړوي.
د مصنوعي ذهانت قانون یو واضح سلسله مراتب رامینځته کوي، د مصنوعي ذهانت سیسټمونه د خوندیتوب یا اساسي حقونو ته د زیان رسولو د وړتیا پراساس طبقه بندي کوي. دا جوړښت د جرمي قانون سره د هغې د تړاو د پوهیدو کلیدي ده.
د خطر کټګوریو پوهیدل
د دې قانون تر ټولو د پام وړ اغېز د هغې د طبقه بندۍ چلند څخه راځي. دا د ټولو AI سره یو شان چلند نه کوي. پرځای یې، دا سیسټمونه په کټګوریو کې طبقه بندي کوي، هر یو یې مختلف قانوني مکلفیتونه لري.
-
د نه منلو وړ خطر: دا هغه سیسټمونه دي چې د بنسټیزو حقونو لپاره دومره ګواښونکي ګڼل کیږي چې په بشپړ ډول منع دي. د حکومت لخوا پرمخ وړل شوي ټولنیز سکور کولو سیسټمونو یا د قانون پلي کونکو لخوا په عامه ځایونو کې د ریښتیني وخت بایومیټریک پیژندنې په اړه فکر وکړئ (د محدود استثناوو سره).
-
لوړخطر: دا د جرمي قانون لپاره ترټولو مهمه کټګوري ده. دا هغه مصنوعي ذهانت پوښي چې په حساسو برخو لکه مهم زیربنا، طبي وسایلو، او په مهمه توګه د قانون پلي کولو او د عدالت ادارې کې کارول کیږي. د وړاندوینې وړ پولیسي وسایل او د مصنوعي ذهانت لخوا پرمخ وړل شوي سزا ورکولو سافټویر په مستقیم ډول پدې ګروپ کې راځي.
-
محدود خطر: دا سیسټمونه، لکه چیټ بوټونه، د روڼتیا سپکو مکلفیتونو سره مخ دي. کاروونکي باید په ساده ډول پوه شي چې دوی د مصنوعي ذهانت سره تعامل کوي.
-
لږترلږه خطر: پدې کټګورۍ کې ډیری مصنوعي ذهانت غوښتنلیکونه شامل دي، لکه سپیم فلټرونه یا په ویډیو لوبو کې مصنوعي ذهانت، کوم چې په لویه کچه غیر منظم دي.
د "نه منلو وړ خطر" کټګورۍ کې د سیسټم ځای پرځای کول مستقیم سرغړونه ده چې کولی شي په اسانۍ سره د جرمي غفلت قضیې ملاتړ وکړي که چیرې دا زیان ورسوي. په هرصورت، د قانوني جګړې اصلي ډګر به د لوړ خطر سیسټمونو شاوخوا وي.
د لوړ خطر سیسټمونه او جرمي غفلت
د لوړ خطر لرونکي مصنوعي ذهانت لپاره، قانون سخت شرایط وضع کوي چې د پاملرنې قانوني معیار په توګه کار کوي. دا مکلفیتونه وړاندیزونه ندي؛ دا د پراختیا کونکو او پلي کونکو لپاره لازمي دندې دي.
د لوړ خطر سیسټمونو لپاره کلیدي اړتیاوې د تعصب مخنیوي لپاره قوي معلوماتي حکومتداري، بشپړ تخنیکي اسناد، د کاروونکو لپاره بشپړ شفافیت، ډاډ ترلاسه کول چې انساني څارنه په هر وخت کې ممکنه ده، او د دقت او سایبر امنیت لوړه کچه ساتل شامل دي.
تصور وکړئ چې یو شرکت د نژادي تعصب لپاره د روزنې معلوماتو په سمه توګه ارزولو پرته د وړاندوینې پولیس الګوریتم ځای په ځای کوي — د قانون د معلوماتو حکومتولۍ قواعدو څخه ښکاره سرغړونه. که چیرې دا تعصب لرونکی سیسټم د غلط نیول کیدو لامل شي چې د زیان لامل کیږي، یو څارنوال یو چمتو دلیل لري. دوی کولی شي د AI قانون سره نه اطاعت ته د شرکت د مناسب پاملرنې د ناکامۍ مستقیم ثبوت په توګه اشاره وکړي، چې د شرکت غفلت تور ثابتول خورا اسانه کوي.
د اروپايي ټولنې په کچه د مصنوعي استخباراتو قانون، چې د ۲۰۲۵ کال په فبروري کې په هالنډ کې پلي شو، په بنسټیز ډول دا قانوني منظره جوړوي. د نه اطاعت پایله کیدی شي تر لویو اداري جریمو پورې وي ۳۵ میلیونه یورو یا د ټول کلني عاید ۷٪. د هالنډ حکومت امر کړی چې سازمانونه هر ډول منع شوي سیسټمونه وپیژني او له منځه یې یوسي، چې د مخ پیژندنې غلطیو څخه د غلطو نیول کیدو کې لیدل شوي نیمګړتیاو AI په اړه جدي اندیښنې منعکس کوي. لکه څنګه چې قانوني پوهان د مدافعینو لپاره د AI شواهدو ننګولو لپاره د لویو حقونو ملاتړ کوي، دا قانون د لا سخت قضایي څیړنې لپاره لاره هواروي. د دې نویو مقرراتو په اړه د نورو جزیاتو لپاره، تاسو کولی شئ وپلټئ د مصنوعي ذهانت قانون بندیزونه چې نافذ شول.
د هالنډ د ماشومانو د پاملرنې ګټو رسوایی څخه درسونه
که څه هم قانوني تیوري موږ ته یو چوکاټ راکوي، هیڅ شی د الګوریتمیک ناکامۍ د حقیقي نړۍ خطرونه نه ښیې لکه د هالنډ د ماشومانو پاملرنې ګټو رسوایی، یا د ټوسلاګینا افیر... دا ملي بحران د سیستماتیک بې عدالتۍ یوه زړه بوږنوونکې قضیه مطالعه ده، چې د یو واحد ناوړه لوبغاړي لخوا نه، بلکې د یو مبهم، اتومات سیسټم لخوا پرمخ وړل کیږي چې په بشپړ ډول له کنټرول څخه وتلی دی.
دا رسوایی هغه ویجاړونکی انساني لګښت څرګندوي کله چې حساب ورکول د "تور بکس" الګوریتم دننه ورک شي. د حقوقي مسلکیانو لپاره، دا یو مهم درس دی چې څنګه اتومات سیسټمونه، حتی که پخپله په جرمي توګه محاکمه نشي، کولی شي ژور زیان ورسوي او زموږ په ادارو کې د خلکو باور مات کړي.
څنګه الګوریتم په زرګونو کسان په غلطه توګه تورن کړل
په خپل زړه کې، دا رسوایی د هالنډ د مالیې او ګمرک ادارې لخوا کارول شوي د ځان زده کړې الګوریتم شاوخوا ګرځیده. د دې دنده د ماشومانو د پاملرنې ګټو ادعاوو کې د احتمالي درغلۍ کشف کول وو. پداسې حال کې چې هدف سم و، د سیسټم داخلي منطق په ژوره توګه نیمګړتیاوې درلودې او په نهایت کې، تبعیض کوونکی و.
الګوریتم په غلط ډول د زرګونو کورنیو د جعلکارانو په توګه د هغو معیارونو پراساس په نښه کول پیل کړل چې باید بې ضرره وای. یوه کوچنۍ اداري تېروتنه، لکه د لاسلیک ورکیدل، د بشپړې درغلۍ پلټنې پیل کولو لپاره کافي وه. پایلې یې د ډیرو کلونو لپاره ویجاړونکې وې. 26,000 کورنۍ، چې د لسګونو زرو یورو بیرته ورکولو امر شوی و، چې ډیری یې مالي بربادۍ ته اړ کړل.
دا وضعیت ښیي چې مصنوعي ذهانت څومره په ځواکمن ډول بې عدالتي پراخولی شي. د مالیې چارواکو په الګوریتمونو کې تبعیضي نمونې په غیر عادلانه ډول ځانګړي ډلې په نښه کړې، چې د سخت مالي او ټولنیز زیان لامل کیږي. د ملي شورماشور په ځواب کې، د هالنډ حکومت په ۲۰۱۰ کال کې 'د ډیزاین له مخې د تبعیض نه کولو لارښود' خپور کړ. 2021 په راتلونکي مصنوعي ذهانت سیسټمونو کې د داسې تعصبونو په فعاله توګه مخنیوي لپاره. تاسو کولی شئ د دې په اړه نور معلومات ومومئ په globallegalinsights.com کې د هالنډ قانون څنګه د مصنوعي ذهانت سره تطابق کوي.
په شفافیت او حساب ورکونې کې مهمې نیمګړتیاوې
د د ټوسلاګینا افیر د اتوماتیک پریکړې کولو په قانوني او اخلاقي نظارت کې ډیری مهمې تشې خلاصې کړې. دا ناکامۍ د دې پوهیدو لپاره مرکزي دي کله چې د الګوریتم محصول ممکن د هغې د انساني چلونکو لپاره د جرمي مسؤلیت پوښتنې راپورته کړي.
درې مهمې ناکامۍ څرګندې شوې:
-
د شفافیت نشتوالی: اغیزمنو کورنیو ته هیڅکله روښانه دلیل نه دی ورکړل شوی چې ولې دوی بیرغ شوي دي. سیسټم یو تور بکس و، چې د دوی لپاره یې د پایلو ننګونه ناممکنه کړه.
-
د بشري څارنې نشتوالی: د الګوریتم پریکړې ډیری وختونه د انجیل په توګه چلند کیدې. د بشري چارواکو لخوا د اتوماتیک درغلۍ طبقه بندي تر پوښتنې لاندې راوستلو یا له پامه غورځولو کې سیستماتیک ناکامي وه.
-
د ګناه فرضیه: کله چې نظام یوه کورنۍ په نښه کړه، نو دوی مجرم ګڼل کېدل. دې کار د ثبوت بار بدل کړ، او دوی یې د یو ناڅرګند تورن په وړاندې د خپلې بې ګناهۍ د ثابتولو لپاره یوې ناممکنې جګړې ته اړ کړل.
دا رسوايي یوه څرګنده یادونه وه چې کله یو اتومات سیسټم د ژوند بدلولو پریکړه کوي، نو "د وضاحت حق" عیش او عشرت نه دی - دا د عدالت یوه بنسټیزه برخه ده. پرته له دې، هیڅ معنی لرونکې اپیل نشي کیدی.
د هر هغه چا لپاره چې د داسې تورونو سره مخ دي، د قانوني چوکاټ پوهیدل خورا مهم دي. د درغلیو په اړه د هالنډ چلند پیچلی دی، او رسوایۍ د متخصصینو لارښوونې اړتیا په ګوته کوي. د دې په اړه نور معلومات ترلاسه کړئ زموږ په مقاله کې د درغلیو او مالي جرمونو په اړه د هالنډ قانوني چلند.
پایله: د مقرراتو لپاره فشار
که څه هم هیڅ الګوریتم محاکمه نه شو، انساني او سیاسي پایلې یې خورا لویې وې. دا په کال کې د ټول هالنډي حکومت د استعفا لامل شو 2021دا رسوایی د بدلون لپاره یو پیاوړی کتلست شو، چې په عامه اداره کې د مصنوعي ذهانت کارولو لپاره د سختو لارښوونو پراختیا یې مستقیمه اغیزه وکړه.
دا ثابته شوه چې حتی د کوډ په وړاندې د جرمي تورونو پرته، په بې پروایۍ سره د یو نیمګړتیا لرونکي، تعصب لرونکي سیسټم پلي کول کولی شي د پراخ اداري غفلت سره مساوي پایلې ولري. دا احتیاطي کیسه اوس په ټوله اروپا کې تنظیمي بحثونه، په شمول د EU AI قانون، ډاډ ترلاسه کوي چې شفافیت، انصاف، او بشري نظارت د راتلونکي AI پلي کولو په سر کې دي.
کله چې مصنوعي ذهانت (AI) پکې ښکیل وي، دفاعي ستراتیژۍ
کله چې یو مراجع د مصنوعي ذهانت سیسټم د یو کار له امله د جرمي تورونو سره مخ وي، د دوی قانوني مشاور یوې ننګونکې نوې نړۍ ته ننوځي. معیاري قانوني کتاب لوی بیا غور ته اړتیا لري. یو قوي دفاع باید د انساني ارادې یا غفلت لپاره د څارنوالۍ قضیه جلا کولو باندې تمرکز وکړي، او دا ډیری وخت د الګوریتم په خپل خپلواک او ځینې وختونه غیر متوقع طبیعت باندې تمرکز کوي.
د هر څارنوال لپاره ترټولو لویه ستونزه دا ده چې ثابته کړي چې یو انسان یو ځانګړی جرمي اراده لري (mens rea) کله چې د زیان مستقیم لامل یو پیچلی الګوریتم و. دا په سمه توګه هغه ځای دی چې دفاع یې غوره پرانیستنه لري. موخه دا ده چې معقول شک رامینځته کړي چې وښيي چې انسان په ساده ډول کنټرول یا لید نه درلود چې د AI د خپلواکې پریکړې لپاره په جرمي توګه مسؤل وګڼل شي.
د تور بکس دفاع سره ننګونکې موخه
یو له هغو قوي دلیلونو څخه دی چې شتون لري د "تور بکس" دفاع. دا ستراتیژي په دې حقیقت باندې لوبیږي چې ډیری پرمختللي مصنوعي ذهانت سیسټمونه، په ځانګړې توګه هغه چې په ژوره زده کړه یا عصبي شبکو کې جوړ شوي، په طبیعي ډول مبهم دي. دلیل ساده دی: که هغه خلک چې سیسټم یې رامینځته کړی په بشپړ ډول نشي تشریح کولی چې دا څنګه یوې ځانګړې پایلې ته رسیدلی، نو څنګه تمه کیدی شي چې یو کارونکي به د جرمي پایلو وړاندوینه او اراده ولري؟
دا دفاع د ارادې د اړتیا زړه ته ځي. وکیل کولی شي استدلال وکړي چې د AI زیان رسونکی عمل یو نه اټکل کیدونکی، راپورته کیدونکی چلند و - یو ډول ډیجیټل چالاک، نه یو پلان شوی جرمي عمل. څومره چې AI پیچلی او خپلواک وي، هومره دا دلیل قانع کوونکی کیږي.
د دې دفاعي کار د ترسره کولو لپاره، تاسو په بشپړ ډول په خپل اړخ کې سم متخصصینو ته اړتیا لرئ.
-
د ډیجیټل عدلي طب متخصصین: دوی کولی شي د مصنوعي ذهانت کوډ، ډیټا لاګونو، او د پریکړې کولو لارو ته لاړ شي ترڅو دقیق ځای ومومي چیرې چې دا د خپل تمه شوي چلند څخه انحراف کړی.
-
د مصنوعي ذهانت اخلاق پوهان او کمپیوټر ساینس پوهان: دا متخصصین کولی شي د ځینو مصنوعي ذهانت ماډلونو د جوړ شوي غیر وړاندوینې وړتیا په اړه شاهدي ورکړي. دوی کولی شي محکمې ته تشریح کړي چې ولې د "بدمعاش" پایله تخنیکي ناکامي وه، نه د مدافع وکیل د ارادې محصول.
د پیښې د یوې نه اټکل کیدونکې نیمګړتیا په توګه د بیانولو سره، مدافع وکیل کولی شي په مؤثره توګه استدلال وکړي چې د محکومیت لپاره اړین "مجرم ذهن" شتون نلري.
د کنټرول نشتوالی یا د ګناه وړ غفلت ثابتول
بله مؤثره ستراتیژي د نشتوالي په اړه استدلال کول دي اغیزمن کنټرول. د هالنډ د قانوني اصل لاندې د فعالیت پلار چاپ (فعالي جرم)، مسؤلیت د تورن څخه غواړي چې د عمل کنټرول واک ولري. دفاع کولی شي دا د دې ښودلو سره بیرته راولي چې، کله چې AI فعال شو، نو دا د یوې کچې خپلواکۍ سره کار کاوه چې د هغه کړنې یې د تورن له مستقیم نفوذ څخه هاخوا کړې.
پدې کې دا ښودل شامل دي چې سیسټم په ریښتیني وخت کې د زده کړې او تطابق لپاره ډیزاین شوی و، د هغې چلند روان او په بشپړ ډول د وړاندوینې وړ نه وي. د دفاع دریځ دا دی چې مدافع وکیل نشي کولی د هغه عمل لپاره مسؤل وګڼل شي چې دوی یې نه مستقیم امر کولی شي او نه هم په معقول ډول ودروي.
د دې دفاع اصلي موخه دا ده چې کیسه د انساني ګناه څخه د ټیکنالوژیکي خپلواکۍ ته واړوي. دا مدافع د مجرم په توګه نه، بلکې د سیسټم د نه اټکل کیدونکي منطق د قرباني په توګه بیا تنظیموي.
کله چې د مصنوعي ذهانت کړنې د جرمي مسؤلیت لامل شي، قوي وي د AI اجنټ ساتونکي پټلۍ په ځای کې ځای پر ځای کول نه یوازې د مخنیوي یو مهم ګام دی بلکې د قوي دفاع یوه مهمه برخه هم ده. دا ثابتول چې دا ډول عصري خوندیتوب تدابیر پلي شوي وو کولی شي په قوي توګه د دې دلیل ملاتړ وکړي چې تورن په بې پروایۍ سره د زیان رسونکي پایلو خطر نه دی منلی.
په پای کې، د عادلانه دفاع حق خورا مهم دی، حتی په هغو قضیو کې چې تخنیکي پلوه پیچلي وي. یو تورن بنسټیز محافظتونه لري، لکه څنګه چې دوی به په هر ډول بشري متمرکز جرم کې وي. د دې اصلي اصولو په پراخه شرایطو کې د پوهیدو لپاره، تاسو کولی شئ د دې په اړه نور معلومات زده کړئ په جرمي مسلو کې د چوپ پاتې کیدو حق او دا څنګه د هالنډ په قانون کې پلي کیږي.
د مصنوعي ذهانت په کارولو سره د سوداګرۍ لپاره د عملي اطاعت نقشه
د قانوني تیوریو پوهیدل یو شی دی، مګر په حقیقت کې د اطاعت لپاره د قوي چوکاټ جوړول په بشپړ ډول بله ننګونه ده. په هالنډ او په ټوله اروپايي اتحادیه کې د مصنوعي ذهانت کارولو سوداګرۍ لپاره، د جرمي مسؤلیت خطر اداره کولو غوره لاره د فعال حکومتدارۍ له لارې ده او د دې وړتیا لري چې وښيي چې تاسو خپل کورنی کار ترسره کړی دی. یو روښانه سړک نقشه اړینه ده.
دا د نوښت د بندولو په اړه نه ده. دا ستاسو د شرکت، ستاسو پیرودونکو او ستاسو شهرت د ساتنې لپاره د هوښیار محافظتونو د ځای پر ځای کولو په اړه ده. د یو قوي داخلي چوکاټ په جوړولو سره، تاسو د غفلت یا بې پروایۍ د هر ډول ادعاوو په وړاندې یو پیاوړی دفاع هم رامینځته کوئ که چیرې د مصنوعي ذهانت سیسټم کله هم ناڅاپي زیان رامینځته کړي.
ستاسو د مصنوعي ذهانت حکومتدارۍ بنسټ جوړول
لومړی شیان لومړی: تاسو د څارنې او حساب ورکولو لپاره یو روښانه جوړښت ته اړتیا لرئ. دا یوازې د معلوماتي ټکنالوژۍ ستونزه نه ده؛ دا د سوداګرۍ اصلي مسؤلیت دی چې ستاسو د قانوني، اطاعت، او اجرایوي ټیمونو بشپړ ملاتړ ته اړتیا لري. قوي اختیارول د مصنوعي ذهانت د حکومتولۍ غوره طریقې د خطرونو د مدیریت او ستاسو د مصنوعي ذهانت (AI) د قانوني او اخلاقي پلوه د ځای پر ځای کولو لپاره یو مهم ګام دی.
ستاسو د حکومتولۍ ماډل باید په څو مهمو ستنو جوړ شي:
-
د انسان په دننه کې څارنه: د هرې لوړې پریکړې لپاره، یو انسان باید وروستۍ خبره ولري. دا کس یا ټیم واک او تخنیکي پوهې ته اړتیا لري چې مداخله وکړي، اصلاحات وکړي، یا د AI وړاندیزونه په بشپړ ډول له پامه وغورځوي.
-
د حساب ورکولو کرښې پاکې کړئ: تاسو باید په سمه توګه تعریف کړئ چې څوک د مصنوعي ذهانت سیسټم لپاره په هر پړاو کې مسؤل دی - د پراختیا او معلوماتو سرچینې څخه نیولې تر ځای پرځای کولو او دوامداره څارنې پورې. دلته هر ډول خړ ساحې د پام وړ قانوني خطرونه رامینځته کوي.
-
منظم الګوریتمیک پلټنې: لکه څنګه چې تاسو د خپل شرکت مالي چارې پلټئ، تاسو باید په منظم ډول د خپلو مصنوعي ذهانت سیسټمونو پلټنه وکړئ. دا پلټنې باید د خپلواکو دریمې ډلې لخوا ترسره شي ترڅو فعالیت، انصاف، او د اروپايي اتحادیې د مصنوعي ذهانت قانون په څیر د قواعدو سره مطابقت وګوري.
د وضاحت وړتیا او د معلوماتو بشپړتیا ټینګار کول
که تاسو نشئ کولی تشریح کړئ چې ستاسو سیسټم څنګه کار کوي، تاسو نشئ کولی په محکمه کې یې دفاع وکړئ. د "تور بکس" ستونزه یوه لویه قانوني کمزوري نقطه ده، کوم چې د شفافیت لپاره ډیزاین کول په بشپړ ډول مهم کوي.
د ډیزاین له مخې تشریح کول باید یو غیر مذاکره کیدونکی اصل وي. ستاسو تخنیکي ټیمونه باید داسې سیسټمونه جوړ کړي چیرې چې د پریکړې کولو پروسه مستند شي، پوه شي او غیر تخنیکي خلکو لکه قاضیانو او تنظیم کونکو ته تشریح شي.
دا ټول د هغو معلوماتو سره پیل کیږي چې ستاسو د ماډلونو د روزنې لپاره کارول کیږي. د معلوماتو دقیق مدیریت ستاسو د تعصب په وړاندې غوره دفاع ده - د الګوریتمیک زیان یوه لویه سرچینه. ډاډ ترلاسه کړئ چې ستاسو معلومات لوړ کیفیت لري، اړونده دي، او په سمه توګه د هغو خلکو استازیتوب کوي چې دا به اغیزمن کړي. د هرې مرحلې مستند کول چې تاسو څنګه معلومات سرچینه کوئ، پاکوئ، او پروسس کوئ ترڅو د پلټنې روښانه لاره رامینځته کړئ. دا اسناد بې ارزښته شواهد دي چې تاسو د احتیاط څخه کار اخیستی دی.
د اروپايي اتحادیې د مصنوعي ذهانت قانون د اطاعت چک لیست
د اروپايي اتحادیې د مصنوعي استخباراتو قانون ټول د خطر د فعال مدیریت په اړه دی، په ځانګړې توګه د لوړ خطر سیسټمونو لپاره. ستاسو د اطاعت ستراتیژي باید د خوندیتوب او انصاف لپاره دوامداره ژمنتیا وښيي.
په عملي چک لیست کې باید شامل وي:
-
د خطر طبقه بندي: په رسمي ډول د هر مصنوعي ذهانت سیسټم طبقه بندي کړئ چې ستاسو شرکت یې کاروي د قانون د خطر کټګوریو سره سم.
-
د اغیزو ارزونه: د کوم لوړ خطر لرونکي مصنوعي ذهانت له ځای پر ځای کولو دمخه، د معلوماتو د ساتنې اغیزې ارزونې (DPIAs) او د بنسټیزو حقونو اغیزې ارزونې (FRIAs) ترسره او مستند کړئ.
-
تخنیکي اسناد: تفصيلي، تازه تخنیکي اسناد چمتو وساتئ ترڅو تنظیم کونکي یې هرکله وغواړي چمتو یې کړئ.
-
دوامداره څارنه: د بازار وروسته څارنې لپاره پروسې تنظیم کړئ ترڅو د AI فعالیت وڅارئ او هر هغه ناڅاپي خطرونه چې د هغې له ځای پرځای کیدو وروسته څرګندیږي ونیسي.
پوښتل شوې پوښتنې
د مصنوعي ذهانت او جرمي قانون ترمنځ متقابل عمل په څرګنده توګه ډېرې پوښتنې راپورته کوي. دلته، موږ د قانوني مسلکیانو، پراختیا کونکو، او سوداګرو مالکینو لپاره د ځینو عامو اندیښنو سره معامله کوو چې فکر کوي ایا الګوریتم واقعیا د جرم لپاره یو څه ملامت کیدی شي.
ایا یو شرکت کولی شي په جرمي توګه مسؤل وګڼل شي که چیرې د هغې مصنوعي ذهانت تبعیض وکړي؟
هو، دا بالکل کیدی شي. که څه هم تاسو به پخپله د مصنوعي ذهانت سیسټم په محکمه کې ونه ګورئ، هغه شرکت چې دا یې کارولی وي یقینا د هالنډي شرکتونو د جرمي مسؤلیت اصولو لاندې د تبعیضي پایلو لپاره د جرمي تورونو سره مخ کیدی شي.
که چیرې د یو شرکت مشرتابه د مصنوعي ذهانت د تعصب د احتمال په اړه پوهیدلی وای او هیڅ یې نه وای کړي، یا که دوی په خپل نظارت کې په کلکه غفلت کړی وای، نو جرمي تورونه یو ریښتینی امکان دی. د اروپايي اتحادیې د مصنوعي ذهانت قانون د لوړ خطر سیسټمونو لپاره د تعصب ضد سخت قوانین هم ټاکي. د دې معیارونو پوره کولو کې پاتې راتلل به په هره جرمي قضیه کې د غفلت قوي ثبوت وي. قانوني رڼا به تل د مصنوعي ذهانت د جوړولو، روزنې او ځای پرځای کولو په شاوخوا کې د انساني پریکړو په اړه روښانه روښانه شي.
په مصنوعي ذهانت کې د تور بکس ستونزه څه ده؟
د "تور بکس" ستونزه د پیچلو مصنوعي ذهانت ماډلونو لپاره یوه اصطلاح ده چیرې چې حتی هغه خلک چې دوی یې جوړ کړي په بشپړ ډول نشي تعقیبولی چې څنګه یو ځانګړی محصول ترلاسه شوی. دا یوه لویه ستونزه ده کله چې مصنوعي ذهانت او جرمي قانون سره ټکر کوي.
په محکمه کې، دا په حقیقت کې د دفاع بنسټ کیدی شي. یو وکیل کولی شي استدلال وکړي چې زیانمنونکې پایله په بشپړ ډول ناڅرګنده وه، پدې معنی چې مدافع وکیل اړین جرمي اراده نه درلوده (mens rea). دلیل ساده دی: څنګه دوی کولی شي داسې پایله اراده کړي وي چې دوی یې اټکل نشي کولی؟
خو څارنوالان یو قوي بیرته راګرځي. دوی کولی شي استدلال وکړي چې د مناسبو محافظتونو پرته د یو ځواکمن، غیر متوقع سیسټم پلي کول، په خپل ذات کې، د بې پروایۍ یا لوی غفلت عمل دی. او دا کولی شي د جرمي مسؤلیت لپاره اړین ذهني عنصر پوره کولو لپاره کافي وي.
دا د وړاندوینې او د پاملرنې دندې په اړه د یوې لوړې کچې قانوني جګړې لپاره لاره هواروي.
د پراختیا کونکو لپاره د قانوني خطر محدودولو لپاره غوره لاره څه ده؟
یوازینی ترټولو اغیزمن کار چې پراختیا کونکي یې کولی شي د قانوني خطر څخه د ځان ساتلو لپاره ترسره کړي هغه د AI د ژوند په هره مرحله کې دقیق او شفاف اسناد ساتل دي. د دې په اړه د یوې مفصلې "تفتیش لارې" رامینځته کولو په توګه فکر وکړئ چې ستاسو د شواهدو ترټولو مهم ټوټه کیدی شي.
دا سند باید له پیل څخه تر پایه پورې هرڅه پوښښ کړي:
-
د ډاټا سرچینې: د روزنې معلومات له کوم ځای څخه راغلل، او د کیفیت او تعصب لپاره یې څنګه معاینه شوه؟
-
د تعصب کمول: د ډیټاسیټونو څخه د تعصبونو موندلو او لرې کولو لپاره کوم ځانګړي ګامونه اخیستل شوي؟
-
د ډیزاین دلیل: د مهمو معمارۍ انتخابونو او الګوریتمونو تر شا منطق څه و؟
-
د ازموینې پایلې: د هرې ازموینې بشپړ ریکارډ، په شمول د ناکامیو او تاسو د هغوی د حل کولو څرنګوالی.
د بشري څارنې لپاره د یو واضح چوکاټ جوړول همدومره مهم دي. که چیرې کله هم کومه څېړنه وشي، نو دا کاغذي کار د لازم احتیاط د نه منلو وړ ثبوت په توګه کار کوي. دا مرسته کوي چې وښيي چې هر ډول زیان چې رامنځته شوی واقعیا یوه نه اټکل کیدونکې پیښه وه، نه د غفلت پایله - او دا د یوې قوي قانوني دفاع بنسټ جوړوي.
