Бүжиглэж буй робот бүтээгчид хиймэл оюун ухааныг зэвсгээс сэргийлнэ гэж хэлсэн шинэ амлалтын талаар AI ёс зүй ба хиймэл оюун ухааны хууль

Зарим робот үйлдвэрлэгчид ерөнхий зориулалтын роботуудыг хиймэл оюун ухаанаар зэвсэглэхээс зайлсхийх зорилготой гэж зарласан амлалтаа өнгөрсөн долоо хоногт мэдээнээс харсан эсвэл олон нийтийн мэдээллийн хэрэгслээр анзаарсан байх. Хэсэг хугацааны дараа би танд дэлгэрэнгүй мэдээлэл өгөх болно, тиймээс хэрэв та энэ асуудалд анхаарлаа хандуулаагүй байсан бол санаа зовох хэрэггүй.

Энэхүү тунхаглалд хариу үйлдэл үзүүлэх нь маш хурдан байсан бөгөөд магадгүй манай туйлширсан нийгэмд ердийнхөөрөө магтаал сайшаалтай, заримдаа элэглэн шүүмжилсэн эсвэл жигшүүртэй эргэлзсэн байдалтай байсан.

Энэ бол хоёр ертөнцийн үлгэр юм.

Нэг ертөнцөд зарим нь энэ нь бидэнд яг хэрэгтэй зүйл гэж хэлдэг хариуцлагатай AI робот хөгжүүлэгчид тунхаглах болно.

Аажмаар ил тод болж, санаа зовоосон асуудлын зөв талд байгаадаа баярлалаа. Тэдгээр өхөөрдөм бүжиглэж буй роботуудыг зэвсгээр эргүүлж, хамгийн муу арга замаар ашиглах нь маш амархан байдаг тул санаа зовоож байна (Та үүнийг сошиал медиа руу орж өөрөө шалгаж болно, мөн пулемёт, буугаар зэвсэглэсэн бүжиглэж буй роботуудыг харуулсан олон видео бичлэгүүд байдаг. бусад зэвсэг).

Энэ зоосны нөгөө талд барьцаа гэж нэрлэгддэг зүйл нь маркетинг эсвэл олон нийттэй харилцах башир аргаас өөр юу ч биш гэж бичсэн байна (хажуугийн тэмдэглэлд хэн нэгэн барьцаа, хандив хоёрын ялгааг мэддэг үү?). Ямартай ч эргэлзэгчид энэ бол бүжиглэж буй роботуудын хүрээнд буяны дохиолол гэж эргэлзэж байна. Ерөнхий зориулалтын роботуудыг зэвсэглэж болно гэж харамсах нь мэдээжийн хэрэг үнэ цэнэтэй бөгөөд нухацтай авч үзэхийг хүсч байгаа боловч үйлдвэрлэгч үүнийг хийхгүй гэж мэдэгдэнэ гэдэг нь хоосон амлалт байж магадгүй гэж зарим хүмүүс батлав.

Ерөнхийдөө энэ асуудал нь хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн талаар нэлээд олон зүйлийг авч үздэг. Бид сэдвийг нухацтай задалж, энэ нь ёс зүй, хууль ёсны хиймэл оюун ухааны хомсдолд хэрхэн нөлөөлж байгааг харах болно. Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийн талаар үргэлжилсэн, өргөн хүрээтэй мэдээлэл авахыг хүсвэл үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Би мөн энэ хэлэлцүүлгийн туршид хиймэл оюун ухааныг зэвсгийн аюулын талаарх өмнөх дүн шинжилгээ, тухайлбал, энэ сэдвээр хийсэн гүнзгий үнэлгээгээ дурдах болно. холбоос энд байна. Та тайзны арын дэлгэрэнгүй мэдээллийг авахын тулд энэ яриаг үзэж болно.

Лаазтай өтийг онгойлгосон нээлттэй захидал

Бостон Динамикс, Clearpath Robotics, ANYbotics, Agility Robotics, Open Robotics, Unitree зэрэг харьцангуй алдартай зургаан робот үйлдвэрлэгчийн саяхан нийтэлсэн Нээлттэй захидлыг алхам алхмаар судалж, энэхүү шинжилгээг эхлүүлцгээе. Ерөнхийдөө та Boston Dynamics-ийн дөрвөн хөл дээрээ эргэлддэг роботуудыг ихэвчлэн харсан байх гэж би таамаглаж байна. Тэд яг л нохой шиг харагддаг бөгөөд бид тэднийг тойрон гүйлдэхийг хараад таатай байдаг.

Би өмнө нь болон олон удаа анхааруулж байсанчлан ийм "бүжиглэх" роботуудыг олон нийтэд эдгээр роботууд нь хөөрхөн, дур булаам гэдэгт итгүүлэх арга хэрэгсэл болгон ашиглах нь харамсалтай нь төөрөгдүүлж, тэднийг хүн хэлбэрт оруулах асар их уршиг руу орж байна. Бид эдгээр хатуурсан төмөр, хуванцар хэсгүүдийг өхөөрдөм үнэнч нохойтой дүйцэх мэтээр бодож эхэлдэг. Бидний эдгээр роботуудыг хүлээн авах хүсэл нь аюулгүй байдал, баталгааны хуурамч мэдрэмжээс үүдэлтэй юм. Мэдээжийн хэрэг, та мөнгө олох хэрэгтэй бөгөөд үүнийг хийх боломж нь бүжиглэж буй роботуудыг тойрон эргэлдэх замаар нэмэгддэг, гэхдээ энэ нь харамсалтай нь эдгээр роботууд нь робот бөгөөд роботуудыг удирдаж буй хиймэл оюун ухаан нь буруу зохион бүтээгдсэн гэсэн бодит баримтыг орхигдуулсан эсвэл нуусан юм шиг санагдаж байна. эсвэл буруу явах.

AI-ийн эдгээр үр дагаврыг авч үзье (Миний AI зэвсгийн талаархи нийтлэлээс түүвэрлэсэн холбоос энд байна):

• AI нь алдаа гаргахад хүргэдэг алдаатай тулгарч магадгүй юм
• AI хэт ачаалалтай байж, хариу өгөхгүй түгжигдэж магадгүй
• AI нь тогтворгүй үйлдэл үүсгэдэг хөгжүүлэгчийн алдааг агуулж болно
• AI нь суулгасан хорон санаат вирусээр гэмтсэн байж магадгүй
• AI-г киберхакерууд бодит цаг хугацаанд нь булаан авч магадгүй
• Нарийн төвөгтэй байдлаас болж хиймэл оюун ухаан нь урьдчилан таамаглах боломжгүй гэж үзэж болно
• AI тооцооллын хувьд "буруу" шийдвэр гаргаж магадгүй (харьцангуй)
• Гэх мэт

Эдгээр нь хиймэл оюун ухаантай холбоотой санаанууд бөгөөд зөв зүйлийг хийх гэж байгаа үед жинхэнэ ёсоор зохион бүтээгдсэн төрөл юм.

Эдгээрээс гадна муу зүйл хийх зорилгоор анхнаасаа боловсруулсан хиймэл оюун ухааны системийг оруулах хэрэгтэй. Та ашиг тустай зорилгоор бүтээгдсэн хиймэл оюун ухаантай байж болно, үүнийг ихэвчлэн гэж нэрлэдэг AI For Good. Та муу зорилгоор санаатайгаар бүтээсэн хиймэл оюун ухаантай байж болно AI For Bad. Цаашилбал, та байж болно AI For Good Энэ нь эвдэрсэн эсвэл дахин болж хувирсан AI For Bad.

Дашрамд хэлэхэд, эдгээрийн аль нь ч хиймэл оюун ухаантай болохтой ямар ч холбоогүй бөгөөд үүнийг зарим хүмүүс өнөөгийн хиймэл оюун ухаан нь мэдрэмжтэй эсвэл мэдрэмжтэй болохын ирмэг дээр ирсээр байна гэж ярьсаар байгаа тул би үүнийг дурдлаа. Тийм ч. Би шинжилгээндээ эдгээр домогуудыг салгаж авдаг холбоос энд байна.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа гэдэгт итгэлтэй байцгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид ухаалаг хиймэл оюун ухааны талаар таамаглахыг хүсч байвал энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болох боломжтой гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Би бүх зүйлийг дэлхий дээр үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг анхаарч үзэхийг зөвлөж байна.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

Өнөөгийн хиймэл оюун ухааныг хүн хэлбэрт оруулахдаа маш болгоомжтой байгаарай.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй хэвийх үзлийг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзэх болно гэж найдаж, хүлээх нь зөв юм, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийсэн байдал хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Энэ бүхэн нь хиймэл оюун ухааны ёс зүйд ихээхэн ач холбогдолтой бөгөөд хиймэл оюун ухааныг хуульчлах оролдлого хийх үед (бүх сургамж болохоос өмнө) олж авсан сургамжид хэрэгтэй цонхыг санал болгодог.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна.

Өмнөх булангууддаа би хиймэл оюун ухааныг зохицуулах хууль тогтоомжийг боловсруулах, батлах үндэсний болон олон улсын янз бүрийн хүчин чармайлтыг авч үзсэн. холбоос энд байна, Жишээлбэл. Би мөн янз бүрийн улс орнуудын тодорхойлж, баталсан хиймэл оюун ухааны ёс зүйн янз бүрийн зарчим, удирдамж, тухайлбал, НҮБ-ын хүчин чармайлт, тухайлбал 200 орчим улс орон баталсан хиймэл оюун ухааны ёс зүйн ЮНЕСКО-гийн багц, үзнэ үү. холбоос энд байна.

Миний өмнө нь сайтар судалж үзсэн AI системтэй холбоотой Ёс суртахууны AI шалгуур буюу шинж чанаруудын чухал жагсаалт энд байна.

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Хиймэл оюун ухааны ёс зүйн эдгээр зарчмуудыг AI хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр ч байтугай AI системд засвар үйлчилгээ хийж, гүйцэтгэдэг зарчмуудыг нухацтай ашиглах ёстой.

Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүхий л оролцогч талуудыг Ёс зүйн хиймэл оюун ухааны тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлагч нар хиймэл оюун ухааны ёс зүйн ойлголтыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Урьд нь онцлон дурдсанчлан хиймэл оюун ухааныг зохион бүтээх, түүнийг нэвтрүүлэхэд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг эзэмшиж, дагаж мөрдөх ёстой.

Одоо би Нээлттэй захидалд ороход тустай суурийг тавьсан тул бид шууд ороход бэлэн боллоо.

Нээлттэй захидлын албан ёсны гарчиг нь:

• "Робот үйлдвэрлэлийн салбар болон манай нийгэмлэгүүдэд нээлттэй захидал, ерөнхий зориулалтын роботуудыг зэвсэглэх ёсгүй” (онлайн дээр нийтэлсэн дагуу).

Одоогоор маш сайн.

Гарчиг нь бараг зайрмаг, алимны бялуу юм шиг санагдаж байна. AI роботын зэвсэглэлээс зайлсхийхийн тулд үүнийг урьдын уриалга гэж хэн нэгэн яаж маргах вэ?

Үзэхийн тулд уншина уу.

Нэгдүгээрт, тэжээлийн хувьд Нээлттэй захидлын албан ёсны нээлтийн догол мөрийг энд оруулав.

• “Бид дэвшилтэт хөдөлгөөнт роботын шинэ үеийг нийгэмд нэвтрүүлэхээр зорьж буй дэлхийн тэргүүлэгч компаниуд юм. Эдгээр шинэ үеийн роботууд нь өмнөх үеийнхээс илүү хүртээмжтэй, ажиллахад хялбар, бие даасан, хямд, дасан зохицох чадвартай бөгөөд өмнө нь автоматжуулсан эсвэл алсаас удирддаг технологи ашиглах боломжгүй байсан газруудад шилжих чадвартай. Дэвшилтэт хөдөлгөөнт роботууд нь аж үйлдвэрийн хамт олон, манай гэрт хамтрагчийн хувьд нийгэмд асар их ашиг тусаа өгнө гэдэгт бид итгэж байна" (онлайн дээр нийтлэгдсэнээр).

Эдгээр төрлийн роботууд гарч ирсний нарлаг тал нь бид маш их ашиг тусыг бий болгохыг урьдчилан харж чадна. Үүнд эргэлзэх хэрэггүй. Танай гэрт гэр цэвэрлэх, аяга тавгаа угаах болон гэр ахуйн бусад ажил гэх мэт Жетсонтой төстэй үйлдлүүдийг хийх робот байж болох юм. Бид үйлдвэр, үйлдвэрлэлийн байгууламжид ашиглах дэвшилтэт роботуудтай болно. Барилга нурах, хүний ​​амь насыг аврах эрсдэлтэй гэх мэт нарийн орон зайд роботууд мөлхөж, маневр хийх боломжтой. гэх мэт.

Үүний зэрэгцээ, Илон Маск зарим төрлийн алхаж буй роботуудыг Тесла болон нийгмийн ирээдүй гэж дүрсэлсэн Тесла хиймэл оюун ухааны өдрийн тухай миний саяхан хийсэн шүүмжлэлийг сонирхож магадгүй юм. холбоос энд байна.

Одоо байгаа асуудал руугаа буцъя. Бүжиглэх роботууд эсвэл алхаж буй роботуудын талаар нухацтай ярилцахдаа бид хиймэл оюун ухааныг ашиглахын тулд өгөөж эсвэл нийт ROI (хөрөнгө оруулалтын өгөөж)-ийг анхаарч үзэх хэрэгтэй. Мөн тооцох зардал байгаа үед бид ашиг тусад хэт дурлахыг зөвшөөрөх ёсгүй.

Гялалзсан шинэ тоглоом нь нэлээд хурц ирмэгтэй байж болно.

Энэ бүхэн нь хиймэл оюун ухааны зэвсгийн асуудал одоо гарч байгаа шалтгааны нэг хэсэг нь хиймэл оюун ухаан бие даасан үйл ажиллагаа руу дэвшсэнтэй холбоотой гэсэн чухал боловч чимээгүй зүйлийг өдөөдөг. Бид ихэвчлэн зэвсгийг ихэвчлэн хүнээр удирддаг гэж найдаж байсан. Зэвсгийг буудах уу, ашиглах уу гэдгээ хүн өөрөө шийддэг. Бид энэ хүнийг хийсэн үйлдлийнхээ төлөө хариуцлага хүлээх боломжтой.

Бие даасан байдлаар ажиллахаар зохион бүтээгдсэн эсвэл хууран мэхлэх боломжтой хиймэл оюун ухаан нь хүнийг гогцооноос салгах бололтой. Дараа нь хиймэл оюун ухаан нь алгоритмын дагуу тооцооллын шийдвэр гаргадаг бөгөөд энэ нь хүмүүсийг алах эсвэл хор хөнөөл учруулж болзошгүй юм. Хиймэл оюун ухааныг хянах чадваргүй гэсэн эргэлзээтэй байдлаас гадна хиймэл оюун ухааны үйл ажиллагааны хариуцлагыг бидэнд үүрэх хэцүү байж магадгүй гэж та эргэлзэж байна. Бидний илт өдөөгч болсон хүн бидэнд байхгүй.

Хиймэл оюун ухаан нь оюун ухаанд хүрсэн юм уу, эсвэл өөр ямар нэгэн байдлаар хуулийн этгээд болсон мэт үйлдлийнхээ хариуцлагыг хиймэл оюун ухаанд шууд хариуцах ёстой гэж зарим хүмүүс үзэж байгааг би ойлгож байна (Хиймэл оюун ухаан нь хуулийн этгээд болох тухай маргааны талаарх миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна). Энэ одоохондоо бүтэхгүй. Бид хиймэл оюун ухааныг зохион бүтээсэн эсвэл бүтээсэн хүмүүсээс олж мэдэх ёстой. Тэд хиймэл оюун ухаан нь тэдний төсөөлж байснаас давсан гэж маргах замаар хуулийн дагуу хариуцлагаас зайлсхийхийг хичээх нь дамжиггүй. Энэ бол бидний шийдвэрлэх ёстой улам бүр нэмэгдэж буй маргаан юм (маргаантай асуудлуудын талаарх ойлголтыг миний хиймэл оюун ухааны тухай хуулийн нийтлэлээс үзнэ үү).

Нэгдсэн Үндэстний Байгууллага (НҮБ) Женев дэх Зарим ердийн зэвсгийн тухай конвенцоор (НҮБ) онлайнаар нийтэлсэн албан ёсны тайлангийн дагуу (Олон улсын хүмүүнлэгийн хууль эсвэл ОУХБ-ын заалтуудыг иш татсан) үхлийн бие даасан зэвсгийн талаар заавал дагаж мөрдөх үүрэг хүлээдэггүй арван нэгэн удирдамж зарчмыг бий болгосон. Үүнд:

(a) Олон улсын хүмүүнлэгийн хууль нь үхлийн аюултай бие даасан зэвсгийн системийг хөгжүүлэх, ашиглах зэрэг зэвсгийн бүх системд бүрэн хэрэгжсэн хэвээр байна;

(б) Хариуцлагыг машинд шилжүүлэх боломжгүй тул зэвсгийн системийг ашиглах тухай шийдвэрт хүний ​​хариуцлагыг хэвээр үлдээх ёстой. Үүнийг зэвсгийн системийн бүх амьдралын мөчлөгийн туршид авч үзэх ёстой;

(в) Зэвсгийн амьдралын мөчлөгийн янз бүрийн үе шатанд хэрэгжиж болох янз бүрийн хэлбэртэй байж болох хүн ба машины харилцан үйлчлэл нь үхлийн аюултай бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологид суурилсан зэвсгийн системийг ашиглах боломжийг хангах ёстой. холбогдох олон улсын хууль тогтоомж, тухайлбал IHL-ийг дагаж мөрдөх. Хүн-машины харилцан үйлчлэлийн чанар, цар хүрээг тодорхойлохдоо үйл ажиллагааны нөхцөл, зэвсгийн системийн шинж чанар, чадавхи зэрэг олон хүчин зүйлийг харгалзан үзэх шаардлагатай;

(г) CCW-ийн хүрээнд шинээр гарч ирж буй аливаа зэвсгийн системийг боловсруулах, байршуулах, ашиглах хариуцлагыг холбогдох олон улсын хууль тогтоомжийн дагуу, тэр дундаа хүний ​​тушаал, удирдлагын хариуцлагатай гинжин хэлхээнд ийм системийг ажиллуулах замаар баталгаажуулах ёстой;

(e) Олон улсын эрх зүйн хүрээнд улс орнуудын хүлээсэн үүргийн дагуу дайны шинэ зэвсэг, хэрэгсэл, аргыг судлах, хөгжүүлэх, олж авах, нэвтрүүлэхэд түүнийг ашиглах нь зарим эсвэл бүх нөхцөл байдалд нийцэх эсэхийг тодорхойлох ёстой. олон улсын хуулиар хориглосон;

(е) Үхлийн бие даасан зэвсгийн систем, бие махбодийн аюулгүй байдал, зохих биет бус хамгаалалт (хакердах, мэдээлэл хууран мэхлэхээс хамгаалах кибер аюулгүй байдал гэх мэт) салбарт шинээр гарч ирж буй технологид суурилсан зэвсгийн шинэ системийг хөгжүүлэх буюу олж авах үед террорист бүлэглэлүүд олж авах эрсдэл. мөн тархах эрсдэлийг анхаарч үзэх хэрэгтэй;

(ж) Эрсдлийн үнэлгээ ба эрсдлийг бууруулах арга хэмжээ нь аливаа зэвсгийн системд шинээр гарч ирж буй технологийг зохион бүтээх, хөгжүүлэх, турших, ашиглах мөчлөгийн нэг хэсэг байх ёстой;

(ж) ОУХБ болон бусад холбогдох олон улсын эрх зүйн үүргээ биелүүлэхийн тулд үхлийн бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологийг ашиглах асуудлыг авч үзэх;

(i) Боломжит бодлогын арга хэмжээг боловсруулахдаа үхлийн аюултай бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологиудыг хүн хэлбэрт оруулахгүй байх;

(ж) CCW-ийн хүрээнд авч буй хэлэлцүүлэг болон бодлогын аливаа арга хэмжээ нь ухаалаг бие даасан технологийг энх тайвны зорилгоор ашиглахад ахиц дэвшил гаргах эсвэл нэвтрэхэд саад болохгүй;

(к) CCW нь цэргийн хэрэгцээ болон хүмүүнлэгийн асуудлын тэнцвэрт байдлыг хангахыг зорьж буй конвенцийн зорилго, зорилгын хүрээнд үхлийн бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологийн асуудлыг шийдвэрлэх зохих тогтолцоог санал болгож байна.

Эдгээр болон бусад төрөл бүрийн дайны болон зэвсэгт мөргөлдөөний хууль, эсвэл IHL (Олон улсын хүмүүнлэгийн хуулиуд) нь гол чулуугаар зэвсэглэсэн бие даасан систем бий болохын тулд бид юу хийхийг оролдож болохыг авч үзэх чухал бөгөөд үргэлж ирээдүйтэй гарын авлага болдог. дизайн эсвэл бодит байдлын дараах аргуудаар.

Зэвсэгт ашиглах боломжтой хиймэл оюун ухааны бие даасан системийг бид шууд хориглох ёстой гэж зарим хүмүүс хэлж байна. Энэ нь зөв, дэлхий ертөнц хөлөө тавьж, хиймэл оюун ухааны бие даасан системийг хэзээ ч зэвсэглэхгүй байхыг хатуу шаардах ёстой. Бүрэн хориг тавих ёстой. Түүхийн төгсгөл. Бүтэн цэг, цэг.

Үхлийн зэвсэгт бие даасан системийг хориглохыг хатуу, дуулгавартай дагаж мөрдөхийг бид чин сэтгэлээсээ хүсч байна. Асуудал нь хамгийн чин сэтгэлийн хоригийн аль ч хэсэгт маш их хөдөлгөөн хийх өрөө зальтай байх нь гарцаагүй. Тэдний хэлснээр дүрэм журам зөрчигддөг. Хэрэв бүх зүйл бүдэг бадаг бол риффрафф цоорхойг гаргаж, дүрмийн дагуу нүд ирмэхийг оролдоно гэдэгт та мөрийцөж болно.

Энд авч үзэх нь зүйтэй зарим боломжит цоорхойнууд байна:

• Үхлийн бус хүмүүсийн нэхэмжлэл. Үхлийн бус бие даасан зэвсгийн системийг бүтээ (энэ нь хориотой хил хязгаараас гадуур байгаа тул зүгээр юм шиг санагддаг), дараа нь та бага багаар үхлийн аюултай болж хувирах боломжтой (та эцсийн мөчид хоригийг давах болно).
• Зөвхөн автономит системийн нэхэмжлэл. Үхлийн гол төвлөрсөн бие даасан системийг бий болгохгүй байх замаар хоригийг дэмжээрэй, үүний зэрэгцээ (хараахан) зэвсэглэж амжаагүй боловч бага багаар сэргээн засварлаж зэвсэглэх боломжтой өдөр тутмын бие даасан системийг зохион бүтээх ажилд ахиц дэвшил гарга.
• Нэгдмэл бус нэхэмжлэл. Огт зэвсэглээгүй бие даасан системүүдийг бүтээж, цаг нь ирэхэд эдгээр нь хоёр тусдаа элемент гэдгийг хатуу маргах гэж оролдохын тулд тэдгээрийг бүгдийг нь нэг дор багтаахгүй гэж маргаж болно. бие даасан зэвсгийн систем эсвэл түүний үеэл.
• Энэ нь бие даасан биш гэж мэдэгддэг. Бие даасан хүчин чадалтай биш юм шиг зэвсгийн системийг хий. AI-д суурилсан бие даасан байдлыг багасгахын тулд энэ бие даасан бус системд зай үлдээгээрэй. Шаардлагатай бол бие даасан байдлыг холбоно уу, та өнхрөхөд бэлэн байна (тэр хүртэл та хоригийг зөрчөөгүй байсан бололтой).
• Бусад

Үхлийн бие даасан зэвсгийн системийг шууд хориглохыг оролдоход өөр олон бэрхшээл тулгарч байна. Би тэдний хэд хэдэн талаар ярих болно.

Зарим шинжээчид хориг нь тийм ч ашигтай биш, үүний оронд зохицуулалтын заалт байх ёстой гэж үздэг. Гол санаа нь эдгээр зэвсгийг зөвшөөрөх боловч хатуу хяналт тавих болно. Зорилтот хууль ёсны арга зам, чадварын хууль ёсны төрлүүд, хууль ёсны пропорциональ байдал гэх мэт хууль ёсны хэрэглээний литаниуудыг тусгасан болно.

Тэдний үзэж байгаагаар шууд хориг тавих нь толгойгоо элсэнд хийж, өрөөнд байгаа заан байхгүй мэт дүр эсгэхтэй адил юм. Энэхүү маргаан нь хориг тавьснаар та ийм төрлийн тогтолцоог хэрэгжүүлэх уруу таталтыг эрс багасгаж чадна гэсэн маргааныг эсэргүүцэж буй хүмүүсийн цусыг буцалгаж байна. Мэдээжийн хэрэг, зарим нь хоригийг гайхуулах болно, гэхдээ ихэнх нь тийм биш гэж найдаж байна. Дараа нь та бүхний анхаарлыг сарниулагчдад төвлөрүүлж, анхаарлаа төвлөрүүлэх шаардлагагүй болно.

Эдгээр мэтгэлцээнүүд эргэн тойронд үргэлжилдэг.

Өөр нэг анхаарал татдаг зүйл бол сайн нь хоригийг дагаж мөрддөг ч муу нь дагаж мөрддөггүй. Энэ нь сайныг муухай байдалд оруулдаг. Муу хүмүүс ийм төрлийн зэвсэглэсэн автономит системтэй байх болно, сайн нь тийм биш юм. Нэгэнт муу нь байгаа нь илчлэгдэх юм бол сайн нь гүйцэх нь хэтэрхий оройтсон байх болно. Товчхондоо, хийх ёстой цорын ганц ухаалаг зүйл бол галтай галтай тэмцэхэд бэлтгэх явдал юм.

Мөн сонгодог саатуулах маргаан байдаг. Хэрэв сайн хүмүүс зэвсэгт бие даасан систем хийхээр шийдсэн бол үүнийг муу хүмүүсийг хэрүүл маргаанд орохоос нь сэргийлэхэд ашиглаж болно. Нэг бол сайн хүмүүс илүү сайн зэвсэглэж, мууг нь няцаах болно, эсвэл муу хүмүүс эдгээр системийг бүхэлд нь нууцаар зохион бүтээснээ илчлэхэд бэлэн байх болно.

Эдгээр лангуунуудын эсрэг тал нь зэвсэглэсэн автономит системүүдийг хийснээр та зэвсгийн уралдааныг явуулж байна. Нөгөө тал ч мөн адил байхыг эрмэлзэнэ. Технологийн хувьд ийм системийг шинээр бий болгох чадваргүй байсан ч тэд одоо "сайн" хүмүүсийн төлөвлөгөөг хулгайлж, өндөр технологийн зүрх сэтгэлийг урвуу инженерчилж эсвэл туршиж үзсэн, үнэн гэж үзсэн бүх зүйлийг дуурайлган хийх боломжтой болно. ажлаа дуусгах арга.

Аа, зарим нь няцаав, энэ бүхэн харилцан адилгүй зөрчилдөөнийг багасгахад хүргэж магадгүй юм. Хэрэв А тал В талд үхлийн аюултай автономит системтэй, В тал А талд байгаа гэдгийг мэддэг бол тэд чанга сууж, цохилт өгөхгүй байж магадгүй юм. Энэ нь харилцан баталгаатай устгалын (MAD) өвөрмөц ауратай.

Тиймээ.

Хоёр дахь догол мөрийг анхааралтай ажигла

Бид энд маш олон зүйлийг аль хэдийн авч үзсэн бөгөөд зөвхөн Нээлттэй захидлын эхний буюу эхний догол мөрийг (нийт дөрвөн догол мөр байна) авч үзсэн болно.

Хоёрдахь догол мөрийг харах цаг боллоо.

• “Шинэ чадавхийг санал болгодог аливаа шинэ технологийн нэгэн адил дэвшилтэт хөдөлгөөнт роботууд бий болсон нь буруугаар ашиглах боломжийг бий болгож байна. Найдваргүй хүмүүс эдгээрийг ашиглан иргэний эрхэнд халдаж, бусдыг заналхийлэх, хорлох, айлган сүрдүүлэхэд ашиглаж болно. Онцгой анхаарал татсан нэг чиглэл бол зэвсэглэл юм. Алсын зайнаас эсвэл бие даан удирддаг, олон нийтэд өргөн хүртээмжтэй, хүмүүсийн ажиллаж, амьдарч байсан газар руу чиглүүлэх чадвартай роботуудад зэвсэг нэмэх нь хор хөнөөлийн шинэ эрсдэл, ёс зүйн ноцтой асуудлуудыг бий болгоно гэж бид үзэж байна. Эдгээр шинэ чадвартай роботуудыг зэвсэглэсэн хэрэглээ нь нийгэмд үзүүлэх асар их ашиг тусыг гэмтээх замаар технологид итгэх олон нийтийн итгэлийг сүйтгэх болно. Эдгээр шалтгааны улмаас бид дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын роботуудаа зэвсэглэхийг дэмждэггүй. Өмнө нь энэ асуудлаар ярьж байсан болон анх удаа оролцож байгаа хүмүүсийн хувьд сүүлийн саруудад цөөн тооны хүмүүс өөрсдийн түр зуурын ажлаа илт сурталчилж байгаагаас үүдэн олон нийтийн санаа зовоосон асуудал нэмэгдэж байгаатай холбогдуулан бид одоо дахин яаралтай байх ёстой гэж үзэж байна. худалдаанд гарсан роботуудыг зэвсэглэх хүчин чармайлт" (онлайн дээр нийтэлсэн дагуу).

Хоёрдахь догол мөрийг уншсаны дараа AI-ийн зэвсгийн талаарх миний өмнөх илтгэл хэрхэн гарч ирснийг харж болно гэж найдаж байна.

Хэд хэдэн нэмэлт зүйлийг авч үзье.

Зарим хүмүүсийн анхаарлыг татсан үг хэллэгийн талаар зарим нэг таагүй зүйл бол "найдваргүй хүмүүс" эдгээр хиймэл оюун ухаантай роботуудыг буруугаар ашиглаж болно гэдгийг онцлон тэмдэглэсэн бололтой. Тийм ээ, үнэхээр муу хүмүүс эсвэл хорон санаатнууд хиймэл оюун ухаантай роботуудыг "буруугаар ашиглах" бүдүүлэг үйлдлүүдийг бий болгодог.

Үүний зэрэгцээ, энэхүү хэлэлцүүлгийн эхэнд дурдсанчлан, хиймэл оюун ухаан нь суулгагдсан алдаа, алдаа болон бусад хүндрэлээс болж өөрөө гацаж магадгүй гэдгийг бид тодруулах хэрэгтэй. Санаа зовоож байгаагаа илэрхийлсэн нь зөвхөн боломжийг онцолж байна найдваргүй хүмүүс Энэ нь бусад сөрөг боломжуудыг үл тоомсорлож байгаа юм шиг санагддаг. Хэдийгээр хиймэл оюун ухааны ихэнх компаниуд болон үйлдвэрлэгчид үүнийг хүлээн зөвшөөрөх дургүй байдаг ч бие даасан системүүдийн аюулгүй байдал, найдвартай байдалд сөргөөр нөлөөлж болзошгүй хиймэл оюун ухааны системийн олон асуудал байдаг. Хиймэл оюун ухааны аюулгүй байдал, хатуу, баталгаатай хамгаалалт шаардлагын талаарх миний мэдээллийг үзнэ үү холбоос энд байна, Жишээлбэл.

Нээлттэй захидлыг судалсан хүмүүсийн дунд гарч ирсэн бас нэг анхаарал татахуйц зүйл бол хиймэл оюун ухаантай роботуудтай холбоотой олон нийтийн итгэлийг бууруулж болзошгүй гэсэн баталгааг багтаасан болно.

Нэг талаараа энэ бол үндэслэлтэй нотолгоо юм. Хэрэв хиймэл оюун ухаантай роботуудыг муу тендер хийхэд ашигладаг бол олон нийт нэлээд ууртай болно гэдэгт мөрийцөж болно. Олон нийтийг бухимдуулах үед хууль тогтоогчид хүч түрэн орж, хиймэл оюун ухаантай роботууд болон хиймэл оюун ухаант робот үйлдвэрлэгчдийг дарангуйлах хууль гаргахыг эрмэлзэнэ гэдэгт итгэлтэй байж болно. Энэ нь хууль тогтоомжийг бүхэлд нь хамарч, AI роботын ашиг тустай холбоотой хүчин чармайлтыг зогсоовол AI роботын салбарыг сүйрүүлж болзошгүй юм. Нэг ёсондоо нялх хүүхэд усанд орохдоо хаягдаж магадгүй юм (хуучин хэллэг, магадгүй тэтгэвэрт гарах ёстой).

Хиймэл оюун ухаант роботуудад итгэх олон нийтийн итгэл буурахаас сэргийлэх тухай энэ мэдэгдэл нь зарим талаараа өөртөө үйлчлэх итгэл үнэмшил мөн үү, эсвэл энэ нь бид бүгдийн сайн сайхны төлөө байна уу (энэ нь хоёулаа байж болох уу?) гэсэн тодорхой асуулт гарч ирж байна.

Чи шийд.

Бид одоо Нээлттэй захидлын онцгой махлаг хэсэг рүү ирлээ:

• "Бид дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын роботууд эсвэл дэвшилтэт робот техникийг бий болгодог программ хангамжаа зэвсэглэхгүй бөгөөд бусад хүмүүст үүнийг дэмжихгүй гэдгээ амлаж байна. Боломжтой бол бид зэвсэглэлд өртөхөөс зайлсхийхийн тулд үйлчлүүлэгчдийнхээ хүсэлтийг сайтар хянаж үзэх болно. Мөн бид эдгээр эрсдлийг бууруулах эсвэл бууруулах боломжтой технологийн онцлогуудыг судлахаа амлаж байна. Тодруулж хэлбэл, бид улс орнууд болон тэдний засгийн газрын агентлагууд өөрсдийгөө хамгаалж, хуулиа сахин хамгаалахад ашигладаг одоо байгаа технологиудыг авч үзэхгүй байна" (онлайн дээр нийтлэгдсэний дагуу).

Бид үүнийг задлах боломжтой.

Үүний дагуу суугаад өөрийгөө бэлдээрэй.

Та галт туйлшралд бэлэн үү?

Тааламжтай тал нь эдгээр хиймэл оюун ухаантай робот үйлдвэрлэгчид ийм амлалт өгөх болно гэж зарим хүмүүс тунхаглаж байна. Эдгээр робот үйлдвэрлэгчид талархалтайгаар "дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын" роботуудаа зэвсэглэхгүй байхыг хичээх бололтой. Үүнээс гадна, "Нээлттэй захидал"-д ийм үйлдэл хийсэн бусад хүмүүсийг дэмжихгүй гэж мэдэгджээ.

Шүүмжлэгчид ямар нэгэн ухаалаг үгийн ур чадвар байгаа эсэхийг гайхдаг.

Жишээлбэл, "advanced-mobility" хаана эхэлж, хаана төгсдөг вэ? Хэрэв робот бүтээгч зохион бүтээж байгаа бол a энгийн-Дэвшилтэт роботоос илүү хөдөлгөөнт хиймэл оюун ухаантай робот (энэ нь тодорхойгүй техникийн хэллэг) нь юу болох вэ гэдгээс хасагдах уу? үгүй биш зэвсэглэх үү? Тиймээс энгийн хөдөлгөөнт хиймэл оюун ухаантай роботуудыг зэвсэглэлд оруулах нь зөв бололтой. дэвшилтэт.

Ерөнхий зориулалтын роботуудын хэллэгт мөн адил хамаарна. Хэрэв хиймэл оюун ухаант роботыг зэвсэглэлд зориулж тусгайлан зохион бүтээсэн бөгөөд тиймээс тийм биш бол бид a Ерөнхий зорилго робот, энэ нь хамрах хүрээнээс хасах боломжтой юу?

Энэ бол зүгээр л "Нээлттэй захидал" гэж та нар маргаж болохоос биш бүх цэгийг тусгасан тавин хуудас хууль эрх зүйн баримт бичиг биш.

Энэ нь биднийг зарим хүмүүсийн илэрхийлсэн макро түвшний илүү таамаглал руу авчирдаг. Үндсэндээ “барьцаа” гэдэг нь юуг илэрхийлдэг вэ?

Зарим нь үхрийн мах хаана байна гэж асуудаг.

Ийм амлалт өгсөн компани тоглоомонд ямар ч бодит хувь нэмэр оруулахгүйгээр үүнийг хийж байгаа бололтой. Хэрэв энэ амлалтад гарын үсэг зурсан аливаа пүүсийн шилдэг гуулин амлалтаа биелүүлэхгүй байхаар шийдсэн бол тэр пүүс яах вэ? Гүйцэтгэх ажилтнууд ерөнхийдөө лаазлах уу? Тус компани татан буугдаж, амлалтаа зөрчсөнийхээ төлөө уучлалт гуйх уу? гэх мэт.

Эндээс харахад барьцааны зүйл зөрчсөн тохиолдолд тусгай торгууль, торгууль ногдуулдаггүй.

Нэр хүндэд халдах магадлалтай гэж та маргаж магадгүй. Барьцааны пүүс цаашид дагаж мөрдөхөө больсон амлалтаа өгснөөс болж зах зээлд унасан байж магадгүй юм. Мэдээжийн хэрэг, энэ нь амлалт өгсөн гэдгийг хүмүүс санаж байх болно гэж таамаглаж байна. Энэ нь мөн барьцааны зөрчлийг ямар нэгэн байдлаар илрүүлнэ гэж тооцдог (хэрэв тийм бол пүүс бүгдэд нь хэлэх магадлал багатай юм шиг санагддаг). Амлалт зөрчигчийг дуудах шаардлагатай байсан ч ийм асуудал нь хиймэл оюун ухаан робот үйлдвэрлэгчдийн тухай цунамигийн үеэр дуу чимээ болж магадгүй юм.

Гарч ирсэн өөр өнцгийг авч үзье.

Барьцааны пүүсийг илүү том пүүс худалдаж авдаг. Томоохон компани нь дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын роботуудыг хиймэл оюун ухаантай зэвсэглэсэн хувилбар болгон хувиргаж эхлэхээр шийджээ.

Энэ нь амлалтаа зөрчсөн үйлдэл мөн үү?

Томоохон пүүс (том пүүс) хэзээ ч амлалт өгөөгүй тул энэ нь зөрчил биш гэж шаардаж магадгүй юм. Үүний зэрэгцээ, жижиг фирмийн зохион бүтээсэн гэм хоргүй хиймэл оюун ухаантай роботууд нь хамгийн харамгүй санаа зорилготойгоор хийснээр бараг нэг шөнийн дотор шинэчлэгдэж, зэвсэг болгон хувиргадаг.

Хэзээ нэгэн цагт ийм зүйл тохиолдохыг жижиг фирм мэдээгүй гэж хэлж болох ч амлалтаа алдагдуулж байна. Тэд чин сэтгэлээсээ хүсч байсан. Томоохон худалдан авагч компани юу хийхийг сонгох нь тэдний хяналтаас гадуур байв.

Үүнд хуулийн хариуцлага байгаа эсэхийг ч асууж байгаа хүмүүс бий.

Барьцааны пүүс хэдэн сарын дараа амлалтаа биелүүлэхгүй гэдгээ шийднэ. Тэдэнд сэтгэлийн өөрчлөлт гарсан. Тус фирмийг амлалтаасаа татгалзсан гэж шүүхэд өгч болох уу? Хэн шүүхэд өгөх вэ? Шүүхэд нэхэмжлэл гаргах үндэслэл юу байх вэ? Хууль эрх зүйн олон асуудал гарч ирдэг. Тэдний хэлснээр та бараг хэнийг ч шүүхэд өгч болно, гэхдээ та ялах эсэх нь огт өөр асуудал юм.

Үүнийг өөр аргаар бодоод үзээрэй. Барьцаа өгсөн пүүс роботуудыг авахын тулд мөнгө төлөхөд бэлэн байгаа томоохон компанид дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын роботуудаа зарах үнэхээр том гэрээ хийх боломжийг олж авдаг. Энэ бол насан туршдаа нэг удаа хийх олон тэрбум долларын худалдан авалтын нэг юм.

AI роботын компани юу хийх ёстой вэ?

Хэрэв AI роботын барьцаалагч пүүсийг олон нийтэд арилжаалах юм бол тэд борлуулалт хийх нь гарцаагүй (энэ нь тийм биш ч гэсэн хувийн эзэмшлийн пүүсийн талаар мөн адил хэлж болно). Худалдан авагч роботуудыг зэвсэглэхийг оролдох вий гэж барьцаалагч компани санаа зовж байна гэж төсөөлөөд үз дээ, гэхдээ ширээн дээр ийм хэлэлцүүлэг байхгүй гэж бодъё. Худалдан авагч нь тэгж магадгүй гэсэн цуу яриа л байна.

Үүний дагуу барьцаалагч компани нь роботуудыг зэвсэглэх ёсгүй гэж лиценздээ оруулсан. Худалдан авагч энэ хэллэгт дургүйцэж, худалдан авалтаас нэг алхам холддог.

AI роботын фирм хичнээн их ашиг олохоо амласан бэ?

Лицензийн хязгаарлалтын шаардлага (эсвэл энэ хязгаарлалтыг хууль ёсны дагуу хэлцэл хийх боломжийг олгохын тулд хууль ёсоор томъёолсон байж магадгүй) гар дээрээс ашиг нь давж гарах цэг бий юу? Та эргэлзэж байгааг харж болно гэж бодож байна. Ийм олон тонн хувилбаруудыг амархан төсөөлдөг. Энэ амлалт шүдтэй болох уу гэдэг асуудал байна. Хэрэв тийм бол ямар шүдтэй вэ?

Товчхондоо, хэлэлцүүлгийн эхэнд дурьдсанчлан, зарим нь ийм төрлийн барьцаа хийж байна гэж дөвийлгөж, нөгөө хэсэг нь барьцаа ус барих эсэх талаар бүдүүлэг байдлаар харж байна.

Бид цаашаа.

Амлалт авах нь

Нээлттэй захидлын дөрөв дэх буюу эцсийн догол мөрөнд:

• “Бидний амлалт дангаараа эдгээр эрсдлийг бүрэн арилгахад хангалтгүй гэдгийг бид ойлгож байгаа тул эдгээр роботуудыг аюулгүй ашиглах, буруугаар ашиглахыг хориглохын тулд бидэнтэй хамтран ажиллахыг бодлого боловсруулагчдаас уриалж байна. Мөн бид робот техникийн нийгэмлэгийн байгууллага, хөгжүүлэгч, судлаач, хэрэглэгч бүрийг ийм робот бүтээхгүй, зөвшөөрөл олгохгүй, дэмжихгүй, зэвсгийн бэхэлгээг идэвхжүүлэхгүй гэсэн амлалт өгөхийг уриалж байна. Эдгээр технологийн хүн төрөлхтөнд үзүүлэх ашиг тус нь буруугаар ашиглах эрсдэлээс илүү их байдаг гэдэгт бид итгэлтэй байгаа бөгөөд хүмүүс болон роботууд дэлхийн зарим сорилтыг даван туулахын тулд мөр зэрэгцэн ажиллах гэрэлт ирээдүйд бид баяртай байна” (онлайн дээр нийтлэгдсэнээр).

Нээлттэй захидлын сүүлийн хэсэг нь уур бухимдлыг төрүүлсэн хэд хэдэн нэмэлт элементүүдтэй.

Бодлого боловсруулагчдыг дуудах нь сайн зөвлөдөг эсвэл буруу зөвлөдөг гэж зарим хүмүүс үздэг. Та эдгээр асуудалд мэдлэггүй бодлого боловсруулагчидтай болж, дараа нь AI роботуудын ахиц дэвшлийг хууль бусаар шийдвэрлэж, сонгодог хууль тогтоомжийг боловсруулдаг. Өмнө дурьдсанчлан, хиймэл оюун ухааны роботын дэвшлийг урагшлуулж буй инноваци тасалдсан эсвэл алга болж магадгүй юм.

Та юу хүсч байгаагаа мэдэж байгаа гэдэгт итгэлтэй байгаарай гэж шүүмжлэгчид хэлж байна.

Бодлого боловсруулагчид хиймэл оюун ухаан роботын фирмүүдтэй хамтран ийм хууль тогтоомжийг хэрхэн оновчтой гаргах талаар бодож үзэх ёстой гэж уг өгүүлэлд тодорхой заасан байдаг. Эсрэг аргументийн эсрэг тал нь бодлого боловсруулагчид хиймэл оюун ухаантай робот бүтээгчид өөрсдийн хүсэл сонирхолд нийцүүлэн тэднийг хардаг гэж үзэж болох юм. Эсрэг аргументийн эсрэг тэмцэл нь технологийн талаар мэддэг хүмүүстэй ажиллах нь мэдээжийн хэрэг юм, эс тэгвээс үр дүн нь маш хэцүү байх болно. гэх мэт.

Магадгүй эргэлзсэн үндэслэлээр зарим нь хүн бүрийг ийм амлалт өгөхийг уриалсан шугамнаас болж зүрх нь шархалж байсан. хавсаргах дэвшилтэт хөдөлгөөнт ерөнхий зориулалтын роботуудад зориулсан зэвсэг. Тэнд байгаа түлхүүр үг нь үг юм хавсаргах. Хэрэв хэн нэгэн зэвсгийг агуулсан, эсвэл саадгүй суулгасан хиймэл оюун ухаантай робот бүтээж байгаа бол энэ нь үг хэллэгийг тойрч гарах бололтой. хавсаргах ямар нэг зүйл. Та үүнийг одоо харж байна, хэн нэгэн зэвсгийг бэхлээгүй, энэ нь хиймэл оюун ухаантай роботын нэг хэсэг юм гэж ширүүн маргаж байна. Үүнийг даван туул, бид энэ амлалтад хамрагдахгүй гэж тэд хашгирав.

Энэ нь барьцааны наалдамхай байдлын талаар өөр нэг гомдол гаргаж байна.

Энэ амлалтыг өгөхийг хүссэн пүүс эсвэл хэн нэгэн хүн ямар ч үед, ямар ч шалтгаанаар барьцаагүй гэдгээ зарлаж болох уу?

Ийм л байх.

Амлалт өгөх, тэд ямар урам зориг өгөх талаар олон янзын маргаан байдаг.

Дүгнэлт

Тийм ээ, та зөв зүйл хийхийг оролдож байгаа эдгээр компаниуд зөв зүйл хийхийг оролдсон гэж гүтгэж байна гэж хэлж болно.

Манай ертөнцөд юу тохиолдсон бэ?

Ийм амлалт өгсөн хэн бүхэнд эргэлзэх зүйлгүй байх ёстой, та хүсэл тэмүүлэлтэй байж болно. Тэд зоримог бөгөөд амин чухал хувь нэмэр оруулахаар олон нийтийн салбарт гарч байна. Хэрэв бид тэднийг ингэж байна гэж шоолж эхэлбэл энэ нь байдлыг улам дордуулах нь дамжиггүй. Ийм амлалт өгөхийг хэн ч хүсэхгүй. Пүүсүүд болон бусад хүмүүс оролдох ч үгүй. Тэд нуугдаж, эдгээр хайрт бүжиглэж буй роботуудыг ямар аюултайгаар хувиргаж болохыг нийгэмд анхааруулахгүй.

Нийгмийг ухаалаг болгох арга зам нь бүжиглэж буй хиймэл хиймэл роботуудыг үзүүлэх уран сайхны үйлдлээс татгалзах зэрэг бусад үйлдлүүдийг шаарддаг гэж скептикүүд тунхагладаг. Эсвэл ядаж үүнийг илүү тэнцвэртэй үйлдэл болго. Жишээлбэл, зөвхөн хайртай тэжээвэр амьтдын үнэнч нохдыг дуурайхаас илүүтэйгээр бүжиглэж буй роботууд нь хүмүүсийг ямар ч эргэлзээгүйгээр урж хаях зэрлэг ууртай чонотой хэрхэн илүү төстэй болохыг харуул.

Энэ нь амлалтаас илүү анхаарал татах болно гэж тэд гуйж байна.

Амлалт гэдэг нь эргэлзээгүй таавар байж болох юм.

Махатма Ганди: "Амлалт нь хичнээн тодорхой байсан ч хүмүүс текстийг өөрийн зорилгод нийцүүлэн эргүүлж, мушгина" гэж уран яруу хэлсэн байдаг.

Томас Жефферсон "Бид бие биедээ амь нас, эд баялаг, ариун нандин нэр төрөө харилцан тангарагладаг."

AI роботууд, тэдний бие даасан байдал, зэвсэглэл гэх мэт зүйлсийн тухай ярихад бид бүгд эцэст нь хамтдаа байх болно. Бидний харилцан амлалт бол наад зах нь бид эдгээр асуудлыг тэргүүн эгнээнд байлгаж, эдгээр ахиц дэвшлийг даван туулах арга замыг эрэлхийлж, ямар нэгэн байдлаар нэр төр, аз завшаан, амьдралаа хамгаалах арга замаа олохыг хичээх ёстой.

Бид үүнийг амлаж чадах уу?

Тийм гэж найдаж байна.