Алуурчин роботуудын талаарх Пентагоны шинэчилсэн бодлого юу вэ?

Пентагон мэдэгдэл гаргажээ 3000.09-д шинэчлэгдсэн, энэ нь тэдний нэрлэсэн зүйлийг хамардаг Зэвсгийн систем дэх бие даасан байдал бусад хүмүүс дууддагалуурчин роботууд.' Агаарын хүчин, Тагнуулын төв газар зэрэг одоогийн нисгэгчгүй онгоцууд MQ-9 хураагч алсын удирдлагаар удирддаг: хүн видео дэлгэцийн өмнө сууж байна Хэдэн мянган милийн зайд байгаа газар дээрх байг тодорхойлж, тэдгээрийг загалмай дээр байрлуулж, Тамын галт пуужин эсвэл бусад зэвсэг. Автономит зэвсгүүд нь өөр өөр байдаг: тэд ямар ч хүний ​​оролцоогүйгээр өөрсдийн байг сонгодог. Тэдгээрийг хэзээ, хэрхэн ашиглах талаар тодорхой дүрэм шаардлагатай бөгөөд шинэ удирдамж нь тэднийг нэг алхам ойртуулж байна.

Арван жилийн өмнө 3000.09-ийн анхны хувилбар гарахад автономит зэвсэг нь шинжлэх ухааны уран зөгнөлт мэт харагдаж байсан. Одоо тэд үнэхээр бодитой болсон. НҮБ үүнийг мэдэгдэв Туркээс нийлүүлсэн нисгэгчгүй онгоцууд бие даасан байдлаар бай руу довтлов 2020 онд Ливид, Орос одоо Украинд байлдааны зэвсгээ байрлуулж байна. бие даасан чадвар.

гэх мэт олон идэвхтнүүд Killer Robots-ийг зогсоох кампанит ажил, автономит зэвсгийг шууд хориглохыг хүсч, ямар ч алсын зэвсгийн дор үлдэхийг шаардаж байна утга учиртай хүний ​​хяналт цаг ямагт. НҮБ хэрхэн хийх талаар хэлэлцэж байна олон жилийн турш ийм зэвсгийг хянах.

Гэсэн хэдий ч шинэ удирдамжаар Пентагон өөр шугамыг баримталж байна.

Бие даасан систем болон хиймэл оюун ухааны системийн аль алиных нь хувьд ЭМГ-аас "утга учиртай хүний ​​хяналт" гэсэн бодлогын стандартыг байнга эсэргүүцсээр ирсэн." Грегори Аллен, AI-ийн засаглалын төслийн захирал Стратегийн болон олон улсын судалгааны төв, надад хэлсэн. "DoD-ийн хамгийн тохиромжтой урлагийн нэр томъёо нь "хүний ​​дүгнэлтийн зохих түвшин" бөгөөд энэ нь зарим тохиолдолд бие даасан хяналтын нисэх онгоц болон зарим төрлийн бие даасан кибер зэвсэг, жишээлбэл, хүний ​​​​хяналтын зохих түвшин бараг байхгүй байж болохыг харуулж байна. .”

Ямар нөхцөлд ямар автономит зэвсгийг зөвшөөрөх вэ? Аллен уг удирдамжийн өмнөх хувилбар нь маш тодорхой бус байсан тул энэ чиглэлийн хөгжилд саад учруулсан гэж үзэж байна.

"Төөрөгдөл маш өргөн тархсан, тэр дундаа ЭМГ-ын зарим ахлах удирдагчдын дунд - албан тушаалтнууд бодлогоор зөвшөөрөгдсөн төдийгүй ахлах хяналт шалгалтын шаардлагаас шууд чөлөөлөгдсөн зарим системийг хөгжүүлэхээс татгалзаж байсан" гэж Аллен хэлэв.

Нийтлэгдсэнээс хойш арван жилийн хугацаанд анхны 3000.09-д тусгагдсан автономит зэвсгийг шалгах процесст нэг ч зэвсгийг ирүүлээгүй байна.

Аллен бичсэн энэ тухай эссэ Өнгөрсөн жил CSIS-д ажиллах шаардлагатай дөрвөн чиглэлийг тодорхойлсон - бие даасан зэвсгийн системийг албан ёсоор тодорхойлох, "AI-ийг идэвхжүүлсэн" нь бодлогод юу гэсэн үг вэ, машин сургалтын загваруудыг давтан сургах үйл явц хэрхэн зохицуулагдах, ямар төрлийн зэвсгийн хэрэгцээг тодруулах зэрэг. хүнд хэцүү хянан шалгах үйл явцыг туулах.

Аллен хэлэхдээ "Амгалан хамгаалах яам бүгдийг нь хэрэгжүүлсэн."

Зарчмын хувьд энэ нь ЭМГ-ын "бие даасан системийг цэргийн зориулалтаар ашиглах талаар хариуцлагатай бодлогыг бий болгоход ил тод, дэлхийн удирдагч байх хүчтэй бөгөөд тасралтгүй амлалт" гэсэн ойлголтыг хангах ёстой.

Гэсэн хэдий ч хүмүүсийг онилдоггүй ("материалын эсрэг зэвсэг"), харин пуужин, бусад нисгэгчгүй онгоцыг онилохыг зөвшөөрдөг дронуудыг хамгаалах бие даасан зэвсгийг ахлах шалгалтаас чөлөөлөх зэрэг цоорхой гэж үзэж болох зарим нэмэлтүүд байдаг. болон бусад боломжит системүүд.

"Хамгаалах" гэдэг үг асар их ажил хийж байна" Зак Калленборнгэж Жорж Мейсоны их сургуулийн Шарын Бодлого ба засгийн сургуулийн бодлогын зөвлөх надад хэлэв. "Хэрэв дайсны нутаг дэвсгэрт нисгэгчгүй онгоц ажиллаж байгаа бол бараг бүх зэвсгийг платформыг "хамгаалах" гэж ойлгож болно."

Калленборн мөн мина гэх мэт үр дүнтэй бие даасан зэвсгийг зуу гаруй жилийн турш ашиглаж ирсэн ч хиймэл оюун ухаан, ялангуяа машин сургалтын дэвшлийн улмаас газар нутаг хурдацтай өөрчлөгдөж байгааг тэмдэглэв. Эдгээр нь маш чадвартай системийг бий болгосон боловч техникийн хувьд хэврэг - Тэд бүтэлгүйтсэн үедээ, жишээлбэл, ямар ч хүний ​​хийхгүйгээр гайхалтай бүтэлгүйтдэг яст мэлхийг винтов гэж андуурсан.

"Одоогийн давамгайлж буй арга барилын хэврэг, тайлбарлах боломжгүй байдлыг харгалзан хиймэл оюун ухаанаар дамжуулан бие даасан байдал нь илүү их анхаарал хандуулах ёстой" гэж Калленборн хэлэв.

Шинэчлэлт нь тийм ч том биш юм. Гэхдээ энэ нь үр дүнтэй бие даасан зэвсгийг хөгжүүлэх талаар Пентагон тууштай тууштай ажиллаж, тэд дагаж мөрдөж чадна гэдэгт итгэлтэй байгааг харуулж байна. олон улсын хүмүүнлэгийн эрх зүй - энгийн иргэдийг цэргийн албан хаагчдаас ялгаж, энгийн иргэдэд хохирол учруулахгүй байхыг эрмэлзэж, зөвхөн пропорциональ, шаардлагатай хүч хэрэглэх.

Хиймэл оюун ухаан нь дайны үед ёс суртахууны дүгнэлт гаргахад шаардлагатай ойлголтыг эзэмшдэггүй бөгөөд дайн автоматжсан, хүн төрөлхтний хяналтгүй болсон ертөнцийг бий болгох эрсдэлтэй гэж кампанит ажилчид үзэж байна. Бусад нь АНУ-ын арми байх болно гэдэгт итгэдэг бие даасан зэвсэгтэй өрсөлдөгчдөөс давсан Хэрэв хиймэл оюун ухаан нь тактикийн түвшинд, мөн хүний ​​хэт их оролцоогүй л бол цэргийн роботуудыг удаашруулдаг.

Автономит зэвсэг гарч эхэлсэн ч гэсэн маргаан үргэлжлэх бөгөөд үр дүнг нь сайтар дагаж мөрдөх болно. Аль ч тохиолдолд алуурчин роботууд ирж байгаа бололтой.