Хиймэл оюун ухаанд суурилсан бие даасан зэвсгийн системийн галт нэгээс хоёр цохилттой тэмцэж буй хиймэл оюун ухааны ёс зүй, чөтгөрийн аргаар зэвсэглэсэн хиймэл оюун ухаанд суурилсан автономит системийн ашиглалт

Эдгээр гайхалтай бүжиглэдэг дөрвөн хөлт роботууд.

Дөрвөн хөлт робот системүүд нь гайхалтай бөгөөд нохой шиг бүжиглэж, бүжиглэдэг эдгээр вирусын видео бичлэгүүдийг та харсан гэдэгт би итгэлтэй байна. Хиймэл оюун ухаанаар удирддаг роботууд саад тотгорыг давж, хайрцагны орой дээр суух юм уу шүүгээний орой дээр тавиулсны дараа нарийн тулах чадвартай мэт харагдахад бид баяртай байх шиг байна. Тэдний хүнтэй харьцдаг хүмүүс заримдаа дэгжин дөрвөн хөлт роботуудыг нухаж, түлхэх нь туйлын шударга бус мэт санагдах бөгөөд тэдгээр толгойлогч гуманоидын бүдүүлэг харьцахад таны уур бухимдлыг төрүүлэх болно.

Та огт өөр калибрын вирусгүй видеог үзсэн үү гэж би гайхаж байна.

Өөрийгөө бэлд.

Нэг төрлийн зэвсгээр тоноглогдсон ижил төрлийн дөрвөн хөлтэй роботуудыг харуулсан видео бичлэгүүд өргөн тархсан байдаг.

Жишээлбэл, пулемёт эсвэл ижил төстэй галт зэвсгийг бүжиглэж, бүжиглэдэг роботын орой дээр суурилуулсан байдаг. Дөрвөн хөлт робот болон зэвсгийн буудах механизмын хооронд цахим холболт бий. Зэвсэглэсэн компьютерийн алхдаг төхөөрөмж нь бухын нүдтэй бай байрлуулсан газар руу чиглэн алхаж буйг харуулсан бөгөөд пулемёт нь бай руу ширүүн буудаж байна. Дараа нь хэсэгчлэн устгасан байг хадсаны дараа дөрвөн хөлтэй робот бүжиглэж, ойролцоох саадыг тойрон давхиж, бусад шинэ байнууд руу ижил үйлдлийг дахин дахин давтдаг.

Таны харж байсан шиг тийм биш. Энэ нь дөрвөн хөлт роботуудыг хийж буй зүйлийг илэн далангүй харахын тулд сэтгэл хөдлөм, харьцангуй баяр баясгаланг авчирдаг. Харагдах хатуу ширүүн бодит байдалд тавтай морил гэмгүй бие даасан системүүд нь огцом зэвсэглэсэн болон хувирч байна. Маш их хүчин чармайлт гаргаснаар та нэг шөнийн дотор "зэвсэггүй" гэж тооцогддог автономит системийг бүрэн зэвсэг агуулсан байхаар сайжруулж болно.

Энэ нь зарим нөхцөл байдалд бараг хялбар байдаг.

Би энэхүү маргаантай сэдвийг ярилцаж, хиймэл оюун ухааны ёс зүйн талаар үүсээд буй ноцтой эргэлзээг авч үзэх болно. Бид бие даасан систем, хиймэл оюун ухаан, бие даасан тээврийн хэрэгсэл, зэвсэглэл, түүнтэй холбоотой Ёс зүйн хиймэл оюун ухаантай тэмцэх олон асуудлуудаар аялах болно. Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI-ийн талаарх миний үргэлжилсэн бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Зарим үндсэн тулгуур чулуунаас эхэлцгээе.

Хэлэлцүүлгийн үүднээс, зэвсгээр зэвсэглэсэн автономит системийг ангилах хоёр үндсэн арга байдаг гэдгийг хүлээн зөвшөөр.

1) Автономит зэвсгийн системүүд (дизайнаар)

2) Зэвсэглэсэн автономит системүүд (бодитийн дараа)

Хоёр ангиллын хооронд чухал ялгаа бий.

Эхний ээлжинд бид тодорхойлох болно бие даасан зэвсгийн систем Зэвсэг болгох зорилготой компьютержсэн бүтээлийг эхнээс нь бий болгох. Хөгжүүлэгчид зэвсэг зохион бүтээхийг хүсч байгаагаа санаж байсан. Тэдний зорилго бол зэвсэг үйлдвэрлэх явдал юм. Тэд зэвсгийг хамгийн сүүлийн үеийн автономит системийн технологитой хослуулж чадна гэдгээ мэдэж байсан. Энэ бол бие даасан хөдөлгөөн, бие даасан үйлдлүүдийг олж авдаг өндөр технологийн давалгаан дээр унадаг зэвсэг юм (би удахгүй дэлгэрэнгүй тайлбарлах болно).

Үүний эсрэгээр, хоёр дахь тохиолдолд бид зэвсгийн талаар ямар ч онцгой хандлагагүй бие даасан системийн асуудлыг авч үзэх болно. Эдгээр нь өөр зорилгоор боловсруулж буй бие даасан системүүд юм. Бүх нийтийн хөдөлгөөнийг хангах, хүний ​​жолоодлоготой болон хүний ​​жолоодлоготой автомашины улмаас жил бүр тохиолддог олон мянган хүний ​​амь нас хохирлыг бууруулахад туслах автомат жолоодлоготой автомашиныг төсөөлөх (миний дэлгэрэнгүй мэдээллийг үзнэ үү. цагт холбоос энд байна). Хүмүүсийг жолооны ард буулгаж, оронд нь хиймэл оюун ухаанаа жолоочийн суудалд суулгах гэсэн нийгэмд өөдрөг хүчин чармайлт гаргаж байгаа хүмүүсийн хувьд зэвсэг биш бололтой.

Гэвч хэрэв хүмүүс үүнийг хийхийг хүсвэл эдгээр гэм зэмгүй бие даасан системийг зэвсэглэж болно.

Би энэ хоёр дахь ангиллыг дараа нь гэж нэрлэдэг зэвсэглэсэн бие даасан системүүд. Автономит систем нь анхнаасаа зэвсгийн бус зорилгоор бүтээгдсэн. Гэсэн хэдий ч, хэн нэгэн энэ заль мэхийг зэвсэглэсэн байж магадгүй гэсэн санааг олж авснаар мөрөөдөмтгий алтруист итгэл найдвар алдагддаг. Гэнэт өхөөрдөм мэт санагдсан автономит систем нь зэвсгийн ямар нэг чадавхийг (жишээ нь дээр дурдсан дөрвөн хөлтэй нохой шиг роботууд дээр нь пулемёт эсвэл ижил төстэй галт зэвсэг нэмсэн) дээр тэмдэглэснээр үхлийн зэвсэг болжээ. .

Харамсалтай нь энэ хоёр ангилал нь зарим талаараа нэг газар, тухайлбал, бие даасан системийг зэвсгийн хувьд үхэлд хүргэж болзошгүй байдлаар ашиглах боломжийг олгодог.

Энэ эцсийн цэгт хүрэх үйл явц өөр байх магадлалтай.

Зэвсэгт холбогдсон бие даасан системүүдийн хувьд зэвсгийн тал нь ихэвчлэн урд ба төв байдаг. Автономит системийн талууд нь авч үзэж байгаа аливаа зэвсгийн тулгын чулуунд ороосон гэж та хэлж магадгүй юм. Хөгжүүлэгчдийн сэтгэн бодох үйл явц нь бие даасан систем бий болсон үед зэвсэг хэрхэн ашиглаж болох талаар тодорхой хэмжээгээр тодорхойлогддог.

Нөгөө үзэл бодол нь ихэвчлэн тийм сэтгэлгээтэй байдаггүй. Хөгжүүлэгчид хүн төрөлхтний сайн сайхны төлөө хамгийн сүүлийн үеийн бие даасан системийг бий болгохыг хүсч байна. Эдгээр хөгжүүлэгчид бие даасан системийг бий болгоход чин сэтгэл, зүрх сэтгэлээ зориулж байна. Энэ бол тэдний шинэ бүтээлийн гол цөм юм. Тэдний гайхамшигт ашиг тустай төхөөрөмжийг хэн нэгэн булаан авах эсвэл сүйтгэх болно гэж тэд төсөөлөөгүй байж магадгүй юм. Тэд бие даасан тогтолцоог бий болгож, бий болгож байгаатай холбоотой нийгмийн үр өгөөжид сэтгэл хангалуун байдаг.

Хэзээ нэгэн цагт гуравдагч этгээдүүд автономит системийг дахин зэвсэглэж болно гэдгийг ойлгосон гэж бодъё. Магадгүй тэд хөгжүүлэгчдийг хууран мэхэлж, бие даасан системтэй болгож, өндөр зорилготой гэж үздэг. Хаалттай хаалганы цаана эдгээр хорон санаатнууд автономит системд зэвсгийн хүчин чадлыг сэмхэн нэмэхээр шийддэг. Гэм буруугүй байдал нь шууд зэвсэг болж хувирав.

Бүх зүйл ийм байдлаар явах шаардлагагүй.

Хөгжүүлэгчид гэмгүй бие даасан системийг хөгжүүлж байна гэж хэлсэн ч санхүүжүүлж, удирдаж байгаа хүмүүс өөр зорилготой байсан байх. Автономит системийн хүчин чармайлт үнэхээр гэм зэмгүй эхэлсэн байж магадгүй, гэхдээ дараа нь төлбөрөө төлөх шаардлагатай болсон үед удирдлага нь бие даасан тогтолцоог хүсээгүй санхүүжилтийн эх үүсвэртэй тохиролцоонд хүрсэн байж магадгүй юм. Өөр нэг боломж бол хөгжүүлэгчид хожим нь зэвсэглэлд ашиглах боломжтой гэдгийг мэдэж байсан боловч хэзээ нэгэн цагт эсвэл хэзээ нэгэн цагт тэр гүүрийг гатлах болно гэж бодож байсан явдал юм. гэх мэт.

Энэ бүхэн хэрхэн өрнөх талаар маш олон янзын арга зам байдаг.

Хиймэл оюун ухааны ёс зүйн талаарх мэдлэг улам бүр нэмэгдэж байгааг миний өмнөх багануудад тайлбарласан нь танд сонирхолтой байж магадгүй юм. хос ашиглах Орчин үеийн хиймэл оюун ухааны элементүүдийг үзнэ үү холбоос энд байна. Ингээд та бүхэндээ товчхон танилцуулъя.

Сайн сайхны төлөө төсөөлж буй хиймэл оюун ухааны систем нь зарим нэг энгийн өөрчлөлтөөр заримдаа муугийн ирмэг дээр байж болох бөгөөд үүний дагуу давхар хэрэглээний шинж чанартай гэж үздэг. Саяхан мэдээнд алуурчин байж болзошгүй химийн бодисыг илрүүлэх зорилгоор бүтээсэн хиймэл оюун ухааны систем гарч байсан бөгөөд үүний тулд хөгжүүлэгчид биднийг ийм буруу боловсруулсан химийн бодисоос зайлсхийх эсвэл болгоомжлохыг хүсч байсан. Эдгээр алуурчин химийн бодисуудыг илчлэхийн тулд хиймэл оюун ухааныг бага зэрэг хялбархан өөрчилж, улмаар муу хүмүүст ямар төрлийн химийн бодисыг гашуун муу төлөвлөгөөндөө бэлтгэх боломжтой болохыг мэдэх боломжийг олгодог.

Автономит системүүд нь давхар хэрэглээний бүрхүүлд багтах боломжтой.

Тийм ч учраас хиймэл оюун ухааны ёс зүй ба ёс зүйн AI нь зарим талаараа маш чухал сэдэв юм. AI-ийн ёс зүйн зарчмууд биднийг сонор сэрэмжтэй байхад хүргэдэг. AI технологичид заримдаа технологид, ялангуяа өндөр технологийн оновчлолд санаа зовдог. Тэд нийгмийн томоохон үр дагаврыг авч үзэх албагүй. Хиймэл оюун ухааны ёс зүйн сэтгэлгээтэй байх, үүнийг хиймэл оюун ухааныг хөгжүүлэх, боловсруулахтай салшгүй холбоотой хийх нь хиймэл оюун ухааны ёс зүйг пүүсүүдэд хэрхэн нэвтрүүлж буйг үнэлэх зэрэг (магадгүй гайхмаар эсвэл инээдтэй) хиймэл оюун ухааныг бий болгоход амин чухал юм.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Үнэн хэрэгтээ, хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж, алтан галууг бууруулах болно гэдгийг тэд урьдчилан анхааруулж байна.

Автономит ба зэвсэг хоёр дүрэм

Бүх төрлийн зэвсэгт бие даасан системүүдийн талаар урьдчилан сэрэмжлүүлэхийн тулд зарим хүмүүсийн ашигладаг онцлох хэллэг байдаг. нядалгааны роботууд.

Энэ нь бидний анхаарч үзэх ёстой нэмэлт талыг авчирдаг.

Автономит зэвсгийн систем ба/эсвэл зэвсэглэсэн автономит систем нь үхлийн аюултай эсвэл алуурчин роботын давамгайлсан байх ёстой юу?

Зарим нь бид шийдсэн байж болно гэж маргах байх үхлийн бус зэвсэглэсэн автономит системүүд мөн. Иймээс энэ үүднээс авч үзвэл нядалгааны робот эсвэл алуурчин робот гэх мэт хэллэг ашиглах нь туйлын зохисгүй мэт санагдана. Үхлийн бус хувилбар нь үхлийн үр дагаваргүй хор хөнөөлийг дарах эсвэл гаргах боломжтой байх магадлалтай. Эдгээр системүүд нь алах биш, харин гэмтэл учруулах чадвар багатай байдаг. Чадвараа бүү хэтрүүлээрэй, биднийг шууд алах машинд санаа зовох хэрэггүй гэж шаарддаг хүмүүс хэлээрэй.

Тиймээс, бид дараах байдалтай байж болно:

• Үхлийн бие даасан зэвсгийн систем
• Зэвсэглэсэн үхлийн бие даасан системүүд
• Үхлийн бус бие даасан зэвсгийн системүүд
• Зэвсэглэсэн үхлийн бус бие даасан системүүд

Мэдээжийн хэрэг, зэвсэглэсэн аливаа автономит систем нь зөвхөн үхлийн бус байдлаар ашиглахаар төлөвлөж байсан ч үхлийн талбарт орох боломжтой юм шиг санагддаг. Автономит системийн дунд зэвсэгтэй болсны дараа үхэлд хүргэхгүйгээс үхэлд хүргэх хоёр үе шатыг хурдан хийх болно. Үхлийн бус хүн үхлийн талбарт гарахгүй гэсэн хатуу баталгааг өгөхөд танд хэцүү байх болно (хэдийгээр зарим нь үүнийг математикийн дүр төрхөөр хийхийг оролдож байна).

Бие даасан систем ба зэвсэглэлийн тухай энэ ерөнхий сэдвийг илүү дэлгэрэнгүй авч үзэхээсээ өмнө мэдээжийн хэрэг илэрхий байх албагүй өөр нэг зүйлийг онцлон тэмдэглэх нь зүйтэй болов уу.

Энэ байна:

• Автономит системийн салшгүй хэсэг болох AI тал бий
• Энэ тэгшитгэлийн зэвсгийн тал нь зэвсгийн тал бий
• AI нь зэвсэгтэй холбоотой байж болно

Үүнийг задалцгаая.

Өнөөгийн бие даасан системүүд нь бие даасан талыг бий болгох үндсэн компьютержсэн арга хэрэгсэл болгон хиймэл оюун ухааныг шаарддаг гэж бид таамаглах болно. Би үүнийг дурдлаа, учир нь та бид хиймэл оюун ухаантай холбоогүй технологи, техникийг ашиглан бие даасан системийг бий болгох боломжтой гэж маргахыг оролдож болох боловч энэ нь үнэн боловч магадлал багатай мэт санагдах болно. Үндсэндээ хиймэл оюун ухаан нь бие даасан байдлыг нэмэгдүүлэх хандлагатай байдаг бөгөөд ихэнх нь хиймэл оюун ухааны өндөр технологийг ашигладаг.

За, бид бие даасан системд ямар нэгэн байдлаар шингэсэн, бие даасан системийг удирдан чиглүүлж, удирддаг хиймэл оюун ухаанд суурилсан чадвартай болсон.

Үүнийг энгийн дүрэм болгон хурууны үзүүрт байлга.

Бид бас ямар нэгэн зэвсэгтэй байх ёстой нь ойлгомжтой юм шиг санагдаж байна, эс тэгвээс бид яагаад автономит системийн сэдвийн талаар энд ярилцаж байна вэ? болон зэвсэг. Тэгэхээр, тийм ээ, мэдээжийн хэрэг, нэг төрлийн зэвсэг байдаг.

Би ашиглаж болох зэвсгийн төрлийг судлахгүй. Та зүгээр л санаанд орж ирсэн зэвсгээ сольж болно. Тодорхой зэвсэг байж магадгүй. Олныг хамарсан хор хөнөөлтэй зэвсэг байж болно. Энэ нь сум эсвэл сумтай зүйл байж болно. Энэ нь химийн бодис эсвэл атомын дэгдэмхий бүрэлдэхүүн хэсгүүдтэй байж болно. Жагсаалт эцэс төгсгөлгүй юм.

Нэмэлт анхаарах зүйл бол хиймэл оюун ухаан нь зэвсэгтэй холбоотой эсэх юм. Хиймэл оюун ухаан зүгээр л зугаалахын тулд зэвсгийг авч явж магадгүй юм. Буу буудаж байсан дөрвөн хөлтэй роботын тухайд магадгүй бууг бууддаг алсын удирдлагатай хүн буудаж байгаа байх. Нохойтой төстэй робот нь дүр зургийг эргүүлж, дараа нь гохыг дарах нь алсын хүнээс хамаарна.

Нөгөөтэйгүүр, хиймэл оюун ухаан нь гох татагч байж магадгүй юм. AI нь зөвхөн жолоодох, маневр хийх төдийгүй зэвсгийг идэвхжүүлэх зорилгоор бүтээгдсэн байж магадгүй юм. Энэ утгаараа хиймэл оюун ухаан нь А-аас Я хүртэлх бүх зүйлийг хийдэг. Аливаа зүйлийн зэвсгийн талыг гүйцэтгэхэд алслагдсан хүнээс хамаарал байхгүй. AI нь үүнийг хийхээр програмчлагдсан байдаг.

Зэвсэглэсэн автономит системийг ашиглах энэ тохиолдолд тодорхой болгохын тулд бидэнд дараах боломжууд байна:

• Автономит систем: AI нь бие даасан системийг бүхэлд нь бие даан ажиллуулдаг
• Автономит систем: Хиймэл оюун ухаан нь бие даасан системийг ажиллуулдаг боловч хүн өөрөө хөндлөнгөөс оролцож болно
• Зэвсэг: Алсын удирдлагатай хүн зэвсгийг удирддаг (AI ажилладаггүй)
• Зэвсэг: AI нь зэвсгийг удирддаг, гэхдээ эргэлтэнд байгаа хүн бас хөндлөнгөөс оролцож болно
• Зэвсэг: AI зэвсгийг бүхэлд нь бие даан ажиллуулдаг

Би өмнө нь бие даасан систем болон бие даасан тээврийн хэрэгсэлтэй холбоотой хүн төрөлхтөнтэй байх хувилбаруудыг авч үзсэн. холбоос энд байна.

Дөрвөн хөлтэй роботуудын бүжиглэж, давхиж буй хөгжилтэй видеонуудыг үзэхэд эдгээр нь ихэвчлэн хиймэл оюун ухаанаар удирддаг роботууд байх ёстой (энэ нь гүн гүнзгий мэдлэгтэй хүмүүсийн ёс заншил юмуу зөв зүйтэй гэж үздэг. эдгээр асуудалд). Үүнийг та бас зөв гэж үзэж болох юм. Мэдээжийн хэрэг, та үүнийг баттай мэдэхгүй байна. Энэ нь алслагдсан хүний ​​оператор роботуудыг удирдаж байгаа байж магадгүй юм. Түүнчлэн хиймэл оюун ухаан нь удирдамжийн нэг хэсгийг хийх боломжтой бөгөөд алслагдсан хүний ​​​​оператор ч үүнийг хийх боломжтой бөгөөд хэрэв робот хүнд байдалд орж, өөрийгөө чөлөөтэй хөдөлгөх боломжтой арга хэрэгслийг тооцоолж чадахгүй бол хиймэл оюун ухаанд туслах боломжтой.

Энд байгаа гол зүйл бол хиймэл оюун ухаан, бие даасан систем, зэвсэглэлийг хэрхэн хольж хутгах талаар олон янз байдаг. Зарим нь бие даасан системийг ажиллуулдаг хиймэл оюун ухаантай боловч зэвсгийг ажиллуулдаггүй. Хүн зэвсгийг алсаас удирддаг байх. Өөр нэг өнцөг нь зэвсгийг урьдчилан идэвхжүүлсэн байж магадгүй бөгөөд бие даасан систем нь идэвхжүүлсэн зэвсгийг хүргэдэг тул хиймэл оюун ухаан нь зэвсгийг өдөөхөд шууд оролцдоггүй бөгөөд харин хүргэх тээврийн хэрэгслийн үүрэг гүйцэтгэсэн. Хиймэл оюун ухаан бол зэвсгийн хэрэглээтэй холбоотой автономит системийн бүх талыг хамарсан гайхалтай хэрэгсэл юм.

Сонголтоо аваарай.

Үүний зэрэгцээ, энэ сэдвээр мэтгэлцээнд ороход хүн-хүн гэдэг нь том хүчин зүйл гэдгийг мэдэж аваарай.

Заримыг нь ялгаж салгах зүйл бол хэрэв хиймэл оюун ухаан нь онилсон болон буудаж байгаа бол (эсвэл ямар ч зэвсгийн хэрэглэгдэхүүн) бүх иж бүрдэл, бүхээг нь ямар ч боломжгүй газар руу гаталсан гэсэн үг юм. Энэ нь хүн төрөлхтөний урьдчилан тодорхойлсон сонголттой ердийн галт болон мартдаг зэвсгүүдээс ялгаатай юм шиг санагддаг, тухайлбал, бай руу харвахад бэлэн пуужинтай эргүүлийн нисгэгчгүй онгоц гэх мэт. аль хэдийн хүн сонгосон.

Зэвсэглэсэн автономит системүүд яагаад бие даасан систем идэвхтэй ажиллаж байх явцад хүний ​​оролцоотой байдаггүй юм бол гэж гайхдаг. Ийм бүх зэвсэгт бие даасан системүүд нь бие даасан системийг ажиллуулах эсвэл зэвсгийг (эсвэл хоёуланг нь) ажиллуулахын тулд хүнтэй байх ёстой гэсэн хатуу шаардлага тавьсан бол бид илүү дээр байх шиг байна. . Энэхүү хиймэл оюун ухаанд хүний ​​гарыг найдвартай, тогтвортой байлгах нь үнэхээр ухаалаг мэт санагдаж магадгүй юм.

Энэ нь яагаад заавал хэрэгжих боломжгүй байгаа шалтгаануудын урт жагсаалтад бэлэн байгаарай.

Эдгээр бэрхшээлийг анхаарч үзээрэй.

• Хөдөлгөөнт хүн цаг тухайд нь хариу өгөхөд хангалттай хурдан биш байж магадгүй
• Хүнд хариуцлагатай хариу өгөх хангалттай мэдээлэл байхгүй байж магадгүй
• "Хүмүүс"-г шаардлагатай үед ашиглах боломжгүй байж магадгүй
• Давталт дахь хүн шийдэгдээгүй байж магадгүй бөгөөд шаардлагатай үед үйлдэл хийхгүй
• Давталт дахь хүн "буруу" шийдвэр гаргаж магадгүй (харьцангуй)
• "Хүмүүс"-д шаардлагатай үед системээс хандах боломжгүй байж магадгүй
• Хүн эргэлзэж, эргэлзэж магадгүй
• Гэх мэт

Та хүний ​​сул дорой байдал, хязгаарлалтын жагсаалтыг харж, дараа нь хүн-хэмжээг хасч, түүний оронд хиймэл оюун ухааныг үргэлж ашиглах нь утга учиртай гэсэн хатуу дүгнэлтэд хүрэх нь дамжиггүй. Энэ нь гогцоонд байгаа хүнийг эс тооцвол эсвэл хиймэл оюун ухаан нь хүн-дүргэнд шингэсэн загварыг давах чадвартай байж болох юм. Хиймэл оюун ухаан болон хүний ​​хоорондын санал зөрөлдөөн нь эрсдэлгүй нөхцөл байдалд хэрхэн хүргэж болох талаар миний дүн шинжилгээг үзнэ үү. холбоос энд байна.

Ихэнхдээ ийм төрлийн бодит цагийн хүнд чиглэсэн сул талуудын жагсаалт дангаараа үлддэг бөгөөд хиймэл оюун ухаан ямар нэгэн байдлаар үсрэнгүй хөгжих ёстой гэсэн ойлголтыг үлдээж, давталт дахь хүнээс хамаагүй илүү ухаалаг сонголт болдог. . Тэр урвасан урхинд битгий ороорой. Энэ мэтчилэн шуугиан тарьж байна.

AI-ийн эдгээр үр нөлөөг авч үзье:

• AI нь алдаа гаргахад хүргэдэг алдаатай тулгарч магадгүй юм
• AI хэт ачаалалтай байж, хариу өгөхгүй түгжигдэж магадгүй
• AI нь тогтворгүй үйлдэл үүсгэдэг хөгжүүлэгчийн алдааг агуулж болно
• AI нь суулгасан хорон санаат вирусээр гэмтсэн байж магадгүй
• AI-г киберхакерууд бодит цаг хугацаанд нь булаан авч магадгүй
• Нарийн төвөгтэй байдлаас болж хиймэл оюун ухаан нь урьдчилан таамаглах боломжгүй гэж үзэж болно
• AI тооцооллын хувьд "буруу" шийдвэр гаргаж магадгүй (харьцангуй)
• Гэх мэт

Зөвхөн хиймэл оюун ухаанд найдах хоёрын хооронд давталт доторх хүнийг ашиглах нь зөрүүтэй гэдгийг та харж чадна гэдэгт би итгэж байна. Хэрэв та бэлэн шийдэл бол аль алиныг нь ашиглах явдал юм гэж хэлэхийг хүсч байвал та хоёр ертөнцийн хамгийн сайн сайхныг авч чадна гэдгийг онцлон хэлмээр байна, гэхдээ та хоёр ертөнцийн хамгийн мууг ч авч болно. Энэ нь үргэлж хоёр ертөнцийн хамгийн шилдэг нь байх болно гэж битгий бодоорой.

Хиймэл оюун ухаантай холбоотой дээр дурдсан сул талуудын нэг нь таныг гайхшруулсан байж магадгүй. таамаглах боломжгүй. AI нь логик, математикийн хувьд нарийн байх ёстой гэдэгт бид итгэдэг. Тиймээс та хиймэл оюун ухааныг бүрэн урьдчилан таамаглах боломжтой гэж найдаж болно. Бид хиймэл оюун ухаан юу хийхийг яг таг мэдэх ёстой. Үе үе, түүхийн төгсгөл.

Бөмбөлөг хагарсандаа уучлаарай, гэхдээ урьдчилан таамаглах боломжтой домог бол буруу нэршил юм. Орчин үеийн хиймэл оюун ухааны хэмжээ, нарийн төвөгтэй байдал нь ихэвчлэн урьдчилан таамаглах боломжгүй байдаг. Энэ нь өнөөгийн зарим Machine Learning (ML) болон Deep Learning (DL) хэрэглээний талаархи Ёс зүйн хиймэл оюун ухааны шуугианаас харагдаж байна. Би түр зуур илүү дэлгэрэнгүй тайлбарлая.

Түүнчлэн, та хиймэл оюун ухааны аюулгүй байдлын хамгийн сүүлийн үеийн хувилбараар дамжуулан баталгаажуулах боломжтой, математикийн хувьд зөв хиймэл оюун ухааны системийг баталгаажуулах гэж буй удахгүй болох чиг хандлагын талаархи миний сүүлийн үеийн дүн шинжилгээг үзэхийг хүсч болно. холбоос энд байна.

Замын дүрмийн талаар эргэцүүлэн бодож байна

Би зорилтот болон зорилтот ойлголтын талаар дурьдсан бөгөөд энэ нь маш их ачаалалтай нэр томъёо бөгөөд анхаарал хандуулах ёстой.

Бид үүнийг тунгаан бодож болно:

• Хүмүүс болох зорилтууд
• Хүн биш харин амьд амьтан болох зорилтууд
• Өмч гэж тайлбарласан зорилтууд

Бид зэвсэглэсэн бие даасан системтэй гэж бодъё. AI нь бие даасан системийг удирдан чиглүүлэхэд ашиглагддаг бөгөөд зэвсэглэлд ашиглагддаг. Хиймэл оюун ухаан нь А-аас Я хүртэлх бүх зүйлийг хийдэг. Хийж буй хүний ​​тухай заалт байхгүй. Зорилтот байдлын хувьд хиймэл оюун ухаан нь зорилтуудыг сонгох болно. Хүмүүсийн тогтоосон урьдчилсан зорилт байхгүй. Үүний оронд хиймэл оюун ухаан нь зорилтот хүмүүс байгаа эсэхийг (магадгүй дайсагнасан үйлдэл, тодорхой төрлийн дүрэмт хувцас гэх мэт) илрүүлэх зорилгоор програмчлагдсан.

Энэ хүртэл надтай хамт байсан уу?

Энэ хувилбар нь зэвсэглэсэн автономит системүүдийн талаар хамгийн их шуугиан тарьсан хувилбар юм.

Санаа зовоож буй зүйл бол хиймэл оюун ухаан нь (дор хаяж) гурван зүйлийг хийхийг зөвшөөрөх ёсгүй:

• Хүнийг зорилтот болгон онилдог
• Хүнийг ашиглахгүйгээр чиглүүлэх
• Урьдчилан таамаглах аргагүй үйлдэл хийх боломжтойly

Хиймэл оюун ухааныг урьдчилан тааварлах боломжгүй гэсэн санаа зовнилын талаар тодорхой дурдсан байгааг анхаарна уу. Хиймэл оюун ухаан нь тодорхой төрлийн хүмүүст чиглүүлэхээр программчлагдсан байсан ч хиймэл оюун ухааны програмчлал нь бидний бодсон шиг биш бөгөөд хиймэл оюун ухаан нь "дайсагнагч" гэж ойлгох ёстой зүйлээс гадна "нөхөрсөг харилцааг" чиглүүлдэг байж болох юм. ” (эсвэл оронд нь байж магадгүй). Үүн дээр, бид хүнтэй холбоотой заалтыг оруулахаар шийдсэн ч хиймэл оюун ухааны урьдчилан таамаглах боломжгүй байдал нь хиймэл оюун ухаан нь хүнтэй харилцах ёстой үед үүнийг хийж чадахгүй гэсэн үг юм. Тиймээс хүний ​​оролцоогүйгээр ажилладаг.

Олон улсын Улаан загалмайн хороо (ОУУЗХ) эдгээр төрлийн санаа зовоосон асуудлын талаар дэлгэрэнгүй тайлбарласан автономит зэвсгийн системийн талаар гурван цэгийн ерөнхий байр суурийг санал болгосон нь танд сонирхолтой байж магадгүй юм (ОУУЗХ-ны вэбсайтын дагуу):

1. "Урьдчилан таамаглах боломжгүй бие даасан зэвсгийн системийг шууд удирдах ёстой гарч, ялангуяа тэдний ялгаваргүй үр нөлөөгөөр. Үүний үр нөлөөг хангалттай ойлгох, урьдчилан таамаглах, тайлбарлах боломжгүй байдлаар зохион бүтээгдсэн эсвэл ашигладаг бие даасан зэвсгийн системийг хориглох нь хамгийн сайн үр дүнд хүрэх болно."

2. “Хүн төрөлхтнийг хамгаалах ёс суртахууны үүднээс авч үзвэл, энгийн иргэд болон байлдагчдыг хамгаалах олон улсын хүмүүнлэгийн эрх зүйн дүрмийг баримтлан, бие даасан зэвсгийн системийг хүн төрөлхтнийг онилоход ашиглахыг үгүйсгэх хэрэгтэй. Хүмүүсийн эсрэг хүч хэрэглэхэд зориулагдсан эсвэл ашигладаг бие даасан зэвсгийн системийг хориглох замаар үүнийг хийх нь дээр."

3. "Энгийн иргэд болон иргэний объектуудыг хамгаалах, олон улсын хүмүүнлэгийн эрх зүйн хэм хэмжээг сахин хамгаалах, хүн төрөлхтнийг хамгаалах зорилгоор бие даасан зэвсгийн системийг зохион бүтээх, ашиглахыг хориглодоггүй, үүнд дараахь зүйлийг хослуулан зохицуулах шаардлагатай. зорилтот төрлийн хязгаарлалт, тухайлбал, тэдгээрийг цэргийн зориулалттай объектуудад хязгаарлах; ашиглалтын хугацаа, газарзүйн хамрах хүрээ, цар хүрээний хязгаарлалт, үүнд тодорхой халдлагатай холбоотой хүний ​​дүгнэлт, хяналтыг идэвхжүүлэх; ашиглалтын нөхцөл байдлын хязгаарлалтэнгийн иргэд эсвэл иргэний объект байхгүй нөхцөлд тэдгээрийг хязгаарлах гэх мэт; rхүн-машины харилцан үйлчлэлийн шаардлага, ялангуяа хүний ​​үр дүнтэй хяналтыг хангах, цаг тухайд нь хөндлөнгөөс оролцох, идэвхгүй болгох."

Үүнтэй холбогдуулан НҮБ (НҮБ) Женев дэх Зарим ердийн зэвсгийн тухай конвенцоор дамжуулан үхэлд хүргэдэг автономит зэвсгийн талаар заавал дагаж мөрдөх үүрэг хүлээгээгүй арван нэгэн үндсэн зарчмыг онлайнаар нийтэлсэн албан ёсны тайлангийн дагуу (олон улсын хүмүүнлэгийн үйл ажиллагаатай холбоотой ишлэлүүдийг багтаасан) тогтоосон. Хууль эсвэл ОУХБ-ын заалтууд):

(a) Олон улсын хүмүүнлэгийн хууль нь үхлийн аюултай бие даасан зэвсгийн системийг хөгжүүлэх, ашиглах зэрэг зэвсгийн бүх системд бүрэн хэрэгжсэн хэвээр байна;

(б) Хариуцлагыг машинд шилжүүлэх боломжгүй тул зэвсгийн системийг ашиглах тухай шийдвэрт хүний ​​хариуцлагыг хэвээр үлдээх ёстой. Үүнийг зэвсгийн системийн бүх амьдралын мөчлөгийн туршид авч үзэх ёстой;

(в) Зэвсгийн амьдралын мөчлөгийн янз бүрийн үе шатанд хэрэгжиж болох янз бүрийн хэлбэртэй байж болох хүн ба машины харилцан үйлчлэл нь үхлийн аюултай бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологид суурилсан зэвсгийн системийг ашиглах боломжийг хангах ёстой. холбогдох олон улсын хууль тогтоомж, тухайлбал IHL-ийг дагаж мөрдөх. Хүн-машины харилцан үйлчлэлийн чанар, цар хүрээг тодорхойлохдоо үйл ажиллагааны нөхцөл, зэвсгийн системийн шинж чанар, чадавхи зэрэг олон хүчин зүйлийг харгалзан үзэх шаардлагатай;

(г) CCW-ийн хүрээнд шинээр гарч ирж буй аливаа зэвсгийн системийг боловсруулах, байршуулах, ашиглах хариуцлагыг холбогдох олон улсын хууль тогтоомжийн дагуу, тэр дундаа хүний ​​тушаал, удирдлагын хариуцлагатай гинжин хэлхээнд ийм системийг ажиллуулах замаар баталгаажуулах ёстой;

(e) Олон улсын эрх зүйн хүрээнд улс орнуудын хүлээсэн үүргийн дагуу дайны шинэ зэвсэг, хэрэгсэл, аргыг судлах, хөгжүүлэх, олж авах, нэвтрүүлэхэд түүнийг ашиглах нь зарим эсвэл бүх нөхцөл байдалд нийцэх эсэхийг тодорхойлох ёстой. олон улсын хуулиар хориглосон;

(е) Үхлийн бие даасан зэвсгийн систем, бие махбодийн аюулгүй байдал, зохих биет бус хамгаалалт (хакердах, мэдээлэл хууран мэхлэхээс хамгаалах кибер аюулгүй байдал гэх мэт) салбарт шинээр гарч ирж буй технологид суурилсан зэвсгийн шинэ системийг хөгжүүлэх буюу олж авах үед террорист бүлэглэлүүд олж авах эрсдэл. мөн тархах эрсдэлийг анхаарч үзэх хэрэгтэй;

(ж) Эрсдлийн үнэлгээ ба эрсдлийг бууруулах арга хэмжээ нь аливаа зэвсгийн системд шинээр гарч ирж буй технологийг зохион бүтээх, хөгжүүлэх, турших, ашиглах мөчлөгийн нэг хэсэг байх ёстой;

(ж) ОУХБ болон бусад холбогдох олон улсын эрх зүйн үүргээ биелүүлэхийн тулд үхлийн бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологийг ашиглах асуудлыг авч үзэх;

(i) Боломжит бодлогын арга хэмжээг боловсруулахдаа үхлийн аюултай бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологиудыг хүн хэлбэрт оруулахгүй байх;

(ж) CCW-ийн хүрээнд авч буй хэлэлцүүлэг болон бодлогын аливаа арга хэмжээ нь ухаалаг бие даасан технологийг энх тайвны зорилгоор ашиглахад ахиц дэвшил гаргах эсвэл нэвтрэхэд саад болохгүй;

(к) CCW нь цэргийн хэрэгцээ болон хүмүүнлэгийн асуудлын тэнцвэрт байдлыг хангахыг зорьж буй конвенцийн зорилго, зорилгын хүрээнд үхлийн бие даасан зэвсгийн системийн салбарт шинээр гарч ирж буй технологийн асуудлыг шийдвэрлэх зохих тогтолцоог санал болгож байна.

Бид өөрсдийгөө олдог мухардмал байдал

Эдгээр янз бүрийн дайны хуулиуд, зэвсэгт мөргөлдөөний хуулиуд эсвэл IHL (Олон улсын хүмүүнлэгийн хуулиуд) нь зэвсгийн зориулалттай бие даасан системийг бий болгохын тулд бид юу хийхийг оролдох талаар бодоход чухал ач холбогдолтой бөгөөд үргэлж ирээдүйтэй гарын авлага болдог. бодит байдлын дараах аргуудаар.

Үхлийн зэвсэгт бие даасан системийг хориглохыг хатуу, дуулгавартай дагаж мөрдөхийг бид чин сэтгэлээсээ хүсч болно. Асуудал нь хамгийн чин сэтгэлийн хоригийн аль нэгний дотор маш их хөдөлгөөн хийх зай зальтай байх нь гарцаагүй. Тэдний хэлснээр дүрэм журам зөрчигддөг. Хэрэв бүх зүйл бүдэг бадаг бол риффрафф цоорхойг гаргаж, дүрмийн дагуу нүд ирмэхийг оролдоно гэдэгт та мөрийцөж болно.

Энд авч үзэх нь зүйтэй зарим боломжит цоорхойнууд байна:

• Үхлийн бус хүмүүсийн нэхэмжлэлБайна. Хийх үхлийн бус бие даасан зэвсгийн системүүд (энэ нь хоригийн хил хязгаараас гадуур байгаа тул зүгээр юм шиг санагддаг), дараа нь та бага багаар үхлийн аюултай болж хувирах боломжтой (та эцсийн мөчид хоригийг давах болно).
• Зөвхөн автономит системийн нэхэмжлэл. Үхлийн гол төвлөрсөн бие даасан системийг бий болгохгүй байх замаар хоригийг дэмжээрэй, үүний зэрэгцээ (хараахан) зэвсэглэж амжаагүй боловч бага багаар сэргээн засварлаж зэвсэглэх боломжтой өдөр тутмын бие даасан системийг зохион бүтээх ажилд ахиц дэвшил гарга.
• Нэгдмэл бус нэхэмжлэл. Огт зэвсэглээгүй бие даасан системийг зохион бүтээж, цаг нь ирэхэд эдгээр нь хоёр тусдаа элемент гэж эрс маргах гэж оролдохын тулд тэдгээрийг бүгдийг нэг дор багтаахгүй гэж маргаж болно. бие даасан зэвсгийн систем эсвэл түүний үеэл.
• Энэ нь бие даасан биш гэж мэдэгддэг. Бие даасан хүчин чадалтай биш юм шиг зэвсгийн системийг хий. AI-д суурилсан бие даасан байдлыг багасгахын тулд энэ бие даасан бус системд зай үлдээгээрэй. Шаардлагатай бол бие даасан байдлыг холбоно уу, та өнхрөхөд бэлэн байна (тэр хүртэл та хоригийг зөрчөөгүй байсан бололтой).
• Бусад

Үхлийн бие даасан зэвсгийн системийг шууд хориглохыг оролдоход өөр олон бэрхшээл тулгарч байна. Би тэдний хэд хэдэн талаар ярих болно.

Зарим шинжээчид хориг нь тийм ч ашигтай биш, үүний оронд зохицуулалтын заалт байх ёстой гэж үздэг. Гол санаа нь эдгээр зэвсгийг зөвшөөрөх боловч хатуу хяналт тавих болно. Зорилтот хууль ёсны арга зам, чадварын хууль ёсны төрлүүд, хууль ёсны пропорциональ байдал гэх мэт хууль ёсны хэрэглээний литаниуудыг тусгасан болно.

Тэдний үзэж байгаагаар шууд хориг тавих нь толгойгоо элсэнд хийж, өрөөнд байгаа заан байхгүй мэт дүр эсгэхтэй адил юм. Энэхүү маргаан нь хориг тавьснаар та ийм төрлийн тогтолцоог хэрэгжүүлэх уруу таталтыг эрс багасгаж чадна гэсэн маргааныг эсэргүүцэж буй хүмүүсийн цусыг буцалгаж байна. Мэдээжийн хэрэг, зарим нь хоригийг гайхуулах болно, гэхдээ ихэнх нь тийм биш гэж найдаж байна. Дараа нь та бүхний анхаарлыг сарниулагчдад төвлөрүүлж, анхаарлаа төвлөрүүлэх шаардлагагүй болно.

Эдгээр мэтгэлцээнүүд эргэн тойронд үргэлжилдэг.

Өөр нэг санаа зовоосон асуудал бол сайн нь хоригийг дагаж мөрдсөн ч муу нь дагаж мөрддөггүй. Энэ нь сайныг муухай байдалд оруулдаг. Муу хүмүүс ийм төрлийн зэвсэглэсэн автономит системтэй байх болно, сайн нь тийм биш юм. Нэгэнт муу нь байгаа нь илчлэгдэх юм бол сайн нь гүйцэх нь хэтэрхий оройтсон байх болно. Товчхондоо, хийх ёстой цорын ганц ухаалаг зүйл бол галтай галтай тэмцэхэд бэлтгэх явдал юм.

Мөн сонгодог саатуулах маргаан байдаг. Хэрэв сайн хүмүүс зэвсэгт бие даасан систем хийхээр шийдсэн бол үүнийг муу хүмүүсийг хэрүүл уруул руу орохоос сэргийлэхэд ашиглаж болно. Нэг бол сайн хүмүүс илүү сайн зэвсэглэж, мууг нь няцаах болно, эсвэл муу хүмүүс эдгээр системийг бүхэлд нь нууцаар зохион бүтээснээ илчлэхэд бэлэн байх болно.

Эдгээр лангуунуудын эсрэг тал нь зэвсэглэсэн автономит системүүдийг хийснээр та зэвсгийн уралдааныг явуулж байна. Нөгөө тал ч мөн адил байхыг эрмэлзэнэ. Технологийн хувьд ийм системийг шинээр бий болгох чадваргүй байсан ч тэд одоо "сайн" хүмүүсийн төлөвлөгөөг хулгайлж, өндөр технологийн зүрх сэтгэлийг урвуу инженерчилж эсвэл туршиж үзсэн, үнэн гэж үзсэн бүх зүйлийг дуурайлган хийх боломжтой болно. ажлаа дуусгах арга.

Аа, зарим нь няцаав, энэ бүхэн харилцан адилгүй зөрчилдөөнийг багасгахад хүргэж магадгүй юм. Хэрэв А тал В талд үхлийн аюултай автономит системтэй, В тал А талд байгаа гэдгийг мэддэг бол тэд чанга сууж, цохилт өгөхгүй байж магадгүй юм. Энэ нь харилцан баталгаатай устгалын (MAD) өвөрмөц ауратай.

Тиймээ.

Автономит дахь хиймэл оюун ухаан

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

Өнөөгийн хиймэл оюун ухааныг хүн хэлбэрт оруулахдаа маш болгоомжтой байгаарай.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Нэмэлт суурь суурьтай бол бид бие даасан систем, зэвсгийн сэдэв рүү дахин нэг удаа эргэж байна. Хиймэл оюун ухаан нь бие даасан системийн бүрэлдэхүүн хэсэг рүү орж, зэвсгийн бүрэлдэхүүн хэсэг рүү орж болохыг бид өмнө нь харсан. Өнөөгийн хиймэл оюун ухаан мэдрэмжгүй байна. Үүнийг давтах нь зүйтэй бөгөөд би эдгээр асуудлын талаар нэмэлт ойлголттой болохын тулд үүнийг онцлон тэмдэглэх болно.

Энэ нь хэрхэн чухал ач холбогдолтой болохыг олж мэдэхийн тулд зарим хувилбаруудыг авч үзье. Би энэ сэдвээр дайны үеийн чиг баримжаагаа түр орхиж, энэ нь бусад олон нийгмийн орчинд хэрхэн нэвтэрч байгааг харуулах болно. Үүний дагуу өөрийгөө тогтвортой байлга.

Зэвсэгтэй ямар ч холбоогүй гэж хэлэх бие даасан тээврийн хэрэгсэл гэх мэт хиймэл оюун ухаанд суурилсан бие даасан систем нь ердийн орон зайд тархаж байна. Автономит тээврийн хэрэгслийг ашиглахаар хүн ирдэг. Тэр хүн урьдчилан таамаглах зэвсгээр зэвсэглэсэн байдаг. Энэ тохиолдолд ярилцахын тулд тухайн хүнд ямар нэгэн таагүй зүйл байгаа гэж бодъё. Тухайн хүн бие даасан тээврийн хэрэгсэлд сууна (зэвсгээ авч явах, нуусан эсвэл нуугаагүй аль ч тохиолдолд).

Автономит машин нь жолоочийн хүссэн газар руу явдаг. Энэ тохиолдолд хиймэл оюун ухаан нь өдөр бүр хэдэн арван эсвэл хэдэн зуун аялал хийдэг шигээ энэ зорчигчийг нэг хүлээн авах газраас тодорхой газар руу зөөвөрлөж байна.

Хэрэв энэ нь хүний ​​жолоодлоготой, хүний ​​жолоодлоготой тээврийн хэрэгсэл байсан бол хүний ​​жолооч зорчигч нь зэвсэглэсэн, ямар нэгэн таагүй санаатай байгаа мэт санагдаж магадгүй юм. Хүний жолооч машин жолоодохоос татгалзаж магадгүй юм. Эсвэл хүний ​​жолооч цагдаагийн газар руу машинаар явж болно. Эсвэл хүний ​​жолооч зэвсэглэсэн зорчигчийг дарах гэж оролдсон байж магадгүй (мэдээлэгдсэн тохиолдол байдаг) эсвэл зорчигчийг зэвсгээ хэрэглэхээс нь татгалзаж магадгүй юм. Энэ нь нэлээд төвөгтэй бөгөөд олон тооны өөрчлөлтүүд байж болно. Ийм хүндрэлийг шийдвэрлэх ганц л зөв хариулт байгаа гэдгийг батлахад та хэцүү байх болно. Харамсалтай нь нөхцөл байдал ээдрээтэй бөгөөд аюултай.

Энэ тохиолдолд хиймэл оюун ухаан нь ийм төрлийн аль нэгэнд програмчлагдсан байх магадлал багатай юм. Товчхондоо, зэвсэглэсэн зорчигч тээврийн хэрэгслийн жолоодлогын үеэр зэвсгээ ашиглах боломжтой байж болно. AI жолоодлогын систем үргэлжлүүлэн аялах бөгөөд автономит тээврийн хэрэгсэл нь зорчигчийн заасан зориулалтын дагуу үргэлжлүүлэн явах болно (хэрэв зорьсон газар нь хилийн гадна гэж тооцогдоогүй гэж үзвэл).

Орчин үеийн хиймэл оюун ухаантай жолоодлогын ихэнх системүүд нь жолоочийн хүчин чармайлт дээр бус зөвхөн замын зорчих хэсэгт анхаарлаа төвлөрүүлдэг.

Бүх зүйл үүнээс ч дордож магадгүй юм.

Хэн нэгэн хэрэгцээтэй хүмүүст зориулж нэмэлт хоол хүнс авдаг газар бөөн хүнсний зүйл зөөвөрлөхийг хүсч байна гэж бодъё. Тухайн хүн бие даасан тээврийн хэрэгсэл хүсч, хүнсний уутыг машины арын суудалд байрлуулна. Тэд аялалд явахгүй бөгөөд зөвхөн бие даасан тээврийн хэрэгслээр хоол хүнсний уутыг нь хүргэж байна.

Гайхалтай сайхан харагдаж байна.

Муухай хүн хүнсний уут гэх илүү тайван ойлголтоос илүүтэйгээр бие даасан тээврийн хэрэгсэлд ямар нэгэн төрлийн зэвсэг байрлуулахыг илүүд үздэг гэж төсөөлөөд үз дээ. Та юу болохыг таах боломжтой гэж бодож байна. Энэ бол миний булангууддаа удаа дараа уриалж, бид үүнийг эртнээс илүү хурдан даван туулах хэрэгтэйг анхааруулж байсан санаа зовоосон асуудал юм.

Энэ төрлийн хувилбаруудад санал болгож буй хариултуудын нэг нь магадгүй бүх бие даасан тээврийн хэрэгслийг камер болон бусад мэдрэгчийг ашиглан боломжит зорчигч зэвсэглэсэн, муу санаатай эсэхийг илрүүлэхийн тулд програмчлах боломжтой юм. Магадгүй хиймэл оюун ухаан үүнийг хийхээр программчлагдсан байх. Эсвэл хиймэл оюун ухаан нь алслагдсан хүний ​​операторыг камерын тусламжтайгаар нүдээр харж, зорчигчтой харилцаж магадгүй гэж цахим болон чимээгүйхэн анхааруулдаг. Энэ бүхэн нь нарийн төвөгтэй, дийлдэшгүй хорхойн лаазны нэг хэсэг бөгөөд хувийн нууцтай холбоотой ноцтой асуудлууд болон ёс зүйн хиймэл оюун ухаантай холбоотой бусад олон асуудлуудыг бий болгодог. Миний сурвалжлагыг эндээс үзнэ үү холбоос энд байна.

Өөр нэг ижил төстэй хувилбар бол хиймэл оюун ухаан нь хүний ​​​​шийдвэр гаргагчдад зориулагдсан ёс суртахууны болон ёс суртахууны дүгнэлтийг гаргах боломжийг олгодог зарим төрлийн ёс суртахууны програмчлалыг агуулдаг. Би хиймэл оюун ухаанд суулгасан тооцооллын ёс зүйн таамаглагчдыг судалж үзсэн. холбоос энд байна болон холбоос энд байна.

Дайны талбарт буцаж очоод үхлийн аюултай автономит зэвсгийн систем байлдааны бүсийн дээгүүр явж байна гэж төсөөлөөд үз дээ. AI нь бие даасан системийг ажиллуулдаг. AI нь онгоцон дээрх зэвсгийг ажиллуулдаг. Бид өмнө нь хиймэл оюун ухаан нь дайсагнасан мэт санагдах хөдөлгөөнүүд эсвэл хүчин төгөлдөр байлдагч гэж тооцогддог хүний ​​байны бусад үзүүлэлтүүдийг сканнердах зорилгоор програмчлагдсан байж магадгүй гэж төсөөлж байсан.

Яг энэ хиймэл оюун ухаан нь хүн-д-д-д-д-гийн оронд ямар нэг утгаараа үйл ажиллагаа явуулж, хүний-д-д-д-д-д-д-д-д-огцонд хийж болох тооцооллын дагуу оролддог ёс суртахууны чиглэсэн ямар нэг бүрэлдэхүүн хэсэг байх ёстой?

Зарим нь тийм ээ, энийг хөөцөлдөе гэж хэлдэг. Зарим нь айсандаа ухарч, энэ нь боломжгүй юм уу, эсвэл өөрөөр хэлбэл хүн төрөлхтний ариун байдлыг зөрчиж байна гэж хэлдэг.

Бас нэг лааз өт.

Дүгнэлт

Энэ сэдвийг сонирхож буй хүмүүсийн хувьд ярих зүйл их байна.

Би танд нэг уйтгартай оньсого тааварыг хурдан мэдрүүлэх болно.

Дайны үед тохиолдсон бүх зүйлийн төлөө хүн эцсийн эцэст хариуцлага хүлээх болно гэж бид ихэвчлэн хүлээдэг. Хэрэв хиймэл оюун ухаан нь бие даасан зэвсгийн системийг удирдаж байгаа эсвэл зэвсэглэсэн байж болзошгүй бие даасан системийг удирдаж байгаа бол энэ систем нь тулааны талбар дээр ухамсаргүй гэж үздэг ямар нэгэн зүйл хийдэг бол үүнд хэн эсвэл юу буруутай вэ?

Та хиймэл оюун ухаантай хариуцлага тооцох ёстой гэж маргаж магадгүй. Гэхдээ хэрэв тийм бол энэ нь яг юу гэсэн үг вэ? Өнөөдрийн хиймэл оюун ухааныг бид хуулийн этгээдийн биелэл гэж хараахан үзээгүй байгаа тул миний тайлбарыг эндээс үзнэ үү. холбоос энд байна. AI-ийн хувьд илжгэн дээр сүүлээ хавчдаггүй. Магадгүй хиймэл оюун ухаан хэзээ нэгэн цагт мэдрэмжтэй болох юм бол та үүнийг хийхийг оролдож болно. Тэр болтол энэ нь бага зэрэг хүртээмжтэй байна (нэмэх, хиймэл оюун ухаан ямар төрлийн шийтгэл, үр дагаварт өртөх талаар миний дүн шинжилгээг үзнэ үү. холбоос энд байна болон холбоос энд байна, Жишээлбэл).

Хэрэв хиймэл оюун ухаан нь хариуцлага хүлээх ёстой сэжигтэн биш бол бид хиймэл оюун ухааныг зохион бүтээсэн ямар ч хүн эсвэл хүн хариуцлага хүлээх ёстой гэж бид мэдээж хэлж болно. Хэрэв хиймэл оюун ухаан нь зөвхөн бие даасан систем ажиллуулж байсан бөгөөд зарим хүмүүс үүнийг зэвсэгтэй хослуулсан бол та үүнийг хийж чадах уу? Та AI хөгжүүлэгчдийн араас явдаг уу? Эсвэл хиймэл оюун ухаан нэвтрүүлсэн хүмүүс үү? Эсвэл зүгээр л зэвсэглэсэн жүжигчин үү?

Миний чин сэтгэлээсээ ярилцахдаа би мөсөн уулын үзүүрт л хүрсэн гэсэн санааг олж авсан гэдэгт итгэлтэй байна.

Одоохондоо энэ яриагаа дуусгая. Жон Лайли орж байсныг санаж байгаа байх Euphues: Ухааны анатоми 1578 онд хайр дурлал, дайнд бүх зүйл шударга гэж дурссан байдаг.

Бие даасан зэвсгийн системүүд гарч ирэх, мөн түүнчлэн зэвсэглэсэн автономит системүүд бий болох тухай тэр санасан байсан болов уу?

Үүнийг бид нэн даруй толгойдоо тавих хэрэгтэй.