Хиймэл оюун ухааны ёс зүй нь автомат жолоодлоготой машинуудад ч бас нөлөөлж буй хиймэл оюун ухааны осолтой тэмцэж байна.

Та осолд онцгой өртөмтгий мэт хэн нэгнийг таньдаг болов уу?

Бид бүгд тэгдэг юм шиг санагддаг.

Магадгүй тэр хүн зочны өрөөндөө гадил жимсний хальсан дээр хальтирч, эсвэл үнэт ваарыг тогших чадвартай хүн байж магадгүй юм. Тэд нэг төрлийн осол аваарт өртдөг хүний ​​соронз юм. Энэ нь маш муу байж магадгүй тул та заримдаа тэдний дэргэд байх дургүй байдаг. Та тэдний таагүй ослын аль нэгнийх нь аймшигт халилтыг амсаж эсвэл гутамшигт үр дагаварт хүргэж болзошгүй.

Гэхдээ бид аливаа хүн осолд бусдаас илүү өртөмтгий байдаг гэж хэлэхэд хэтэрхий хатуу хандаж байж магадгүй юм. Бидний хэнд ч осол гарч болно гэсэн маргаан байж болно. Бид бүгд осолд орох эсвэл осолд өртөх магадлалтай байдаг. Бидний хамгийн шилдэг нь багтсан.

Энэ хэлэлцүүлгийн дээр бас нэг сэтгэл зовоосон асуултыг оруулъя.

Осол гарах нь гарцаагүй юу?

Өөрөөр хэлбэл, бид ослоос урьдчилан сэргийлэх гэж хичнээн хичээсэн ч осол гарах магадлал, эцсийн баталгаа байсаар байгаа нь салшгүй холбоотой байж болох юм. Та дэлхийг ослоос хамгаалахыг эрэлхийлж болно. Энэ нь эргэлзээгүй болгоомжтой байх шиг байна. Гэхдээ нэг талаараа осол аваар нь тэдний муухай толгойг эргүүлсээр байх болно.

Тэдний хэлснээр осол гарахыг хүлээж байна.

Зарим үйл явдлыг осол гэж зохих ёсоор тэмдэглэсэн нь юу гэсэн үг болохыг тодруулахад тустай байж болох юм. Ердийн толь бичгийн тодорхойлолт нь осол гэдэг нь санамсаргүй, санамсаргүй байдлаар тохиолддог, эвдрэл гэмтэл, бэртлээс бүрдсэн харамсалтай үр дагавартай байдаг.

Энэ тодорхойлолтыг сайтар задлаарай.

Энэ үйл явдал нь гэнэтийн зүйл юм. Энэ нь бид осол өөрөө гарна гэдгийг ойлгоогүй гэсэн үг юм.

Дээрх үйл явдал нь санамсаргүй явдал юм. Энэ нь хэн нэгэн хүн зориудаар хэрэг үйлдэхийг хүссэн нөхцөл байдлыг үгүйсгэх ёстойг харуулж байна. Хэрэв шоглоомчин гадил жимсний хальсыг шалан дээр тавиад азгүй, санаанд оромгүй гэм зэмгүй хүн гишгэхийг мэдэх юм бол түүн дээр бүдэрсэн хүн осолд орсон гэж хэлэхэд та хэцүү байх болно. Харин тэднийг хууран мэхлэн урхинд оруулав.

Тодорхойлолтод үр дүн нь харамсалтай байна гэсэн шалгуурыг багтаасан болно. Энэ гэрэлд гарсан осол нь исгэлэн үр дагаварт хүргэх ёстой. Санамсаргүй байдлаар ваарыг мөргөж унагасан хүн амталж байсан зүйлээ засахын аргагүй эвдэрсэн байж магадгүй. Үнэ цэнээ алдаж, ваарны эзэн хохирч байна. Ваар руу гүйсэн хүн алдагдлаа эзэндээ төлөх ёстой. Ваар хагарснаас болж хэн нэгний зүсэгдэж, урагдсан байхыг тэнгэр ивээх болтугай.

Тэнцвэртэй байдлыг хангах үүднээс "сайн" гэж нэрлэгддэг осол байдаг гэдгийг тэмдэглэхийг хүсч байна. Хүн ослын үр дүнд асар их азтай болох эсвэл өөр амин чухал ашиг тусыг олж авах боломжтой. Хамгийн их иш татсан жишээнүүдийн нэг бол Сэр Александр Флеминг болон түүний пенициллинийг нээсэн явдал юм. Тэрээр лабораторидоо бага зэрэг хайхрамжгүй хандсан бөгөөд хоёр долоо хоногийн амралтаа аваад буцаж ирэхдээ түүний өсгөвөрлөх тавагны нэг хөгц олжээ. Тэрээр энэ талаар “Хүн заримдаа хайгаагүй зүйлээ олдог. Би 28 оны 1928-р сарын XNUMX-нд үүр цайхын дараахан сэрэхдээ дэлхийн анхны антибиотик буюу нян устгагчийг нээж бүх анагаах ухаанд хувьсгал хийнэ гэж төлөвлөөгүй нь лавтай. Гэхдээ би яг үүнийг хийсэн гэж бодож байна."

Бид таатай тохиолдлуудыг хойш тавьж, гашуун осолд анхаарлаа хандуулах болно. Ослын хөмсөг зангидсан хувилбар нь эдгээр сөрөг үр дагавар нь ялангуяа амь насанд аюултай эсвэл хүнд үр дагавартай байдаг. Бид аль болох багасгахыг хүсч буй сөрөг ослын талаар (мөн мэдээж хэрэг, хэрэв боломжтой бол үүнийг нэмэгдүүлэхийг хүсч байна, гэхдээ би энэ инээмсэглэлтэй царайны хувилбарыг дараагийн баганад авч үзэх болно).

Би гэнэтийн осол аваарын тухай өмнөх асуултыг бага зэрэг дахин хэлмээр байна. Өнөөг хүртэл бид ганц бие хүний ​​тохиолдлын ослын талаар анхаарлаа хандуулсаар ирсэн. Гэнэтийн осол нь олон хүнийг нэгэн зэрэг гэмтээж болзошгүй нь эргэлзээгүй. Хүмүүс нэг төрлийн нарийн төвөгтэй системд автсан үед энэ нь ялангуяа тохиолдож болно.

Өмнө нь тавьсан асуултын хувилбарт өөрийгөө бэлдээрэй.

Системийн осол гарах нь гарцаагүй юу?

Бид энэ талаар тунгаан бодох ёстой.

Машины эд анги хийх үйлдвэрийн шалыг тавьсан гэж бодъё. Үйлдвэрийг зохион бүтээсэн хүмүүс гарч болзошгүй ажилчдын ослын талаар маш их санаа зовж байна гэж хэлье. Үйлдвэрийн ажилчид үргэлж дуулга өмсөхийг шаарддаг. Үйлдвэрийн тэмдгүүд нь ослоос болгоомжилж, ажилдаа анхаарал болгоомжтой байхыг уриалж байна. Осол гэмтлээс урьдчилан сэргийлэхийн тулд бүх төрлийн урьдчилан сэргийлэх арга хэмжээг авдаг.

Энэ системд хэн ч хэзээ ч осолд орохгүй гэж найдаж болно. Осол гарах магадлал XNUMX гэж та итгэж байна уу? Ямар ч ухаалаг сэтгэгч энэ тохиолдолд осол гарах магадлал XNUMX байна гэж бооцоо тавихгүй гэж би зүрхлэх болно. Осол гарах магадлал үнэхээр бага байж болох ч урьдчилан сэргийлэх бүх арга хэмжээг үл харгалзан осол гарах эрсдэл бага хэвээр байгааг бид мэдэж байгаа бөгөөд таамаглаж байна.

Энэ бүхэн нь хангалттай нарийн төвөгтэй тогтолцоонд бид осол аваараас урьдчилан сэргийлэх гэж хичнээн хичээсэн ч байсаар байх болно гэдэгт итгэх нь гарцаагүй гэсэн санааг харуулж байна. Системийн осол үнэхээр зайлшгүй байх ёстой гэсэн заалтыг бид дурамжхан дэмжиж байна. Ийм хэмжээний том мэдэгдэл нь ослоос бүрэн урьдчилан сэргийлэхийн тулд бүх суурийг хамрах боломжгүй тул систем нь тодорхой хэмжээний нарийн төвөгтэй байх ёстойг анхааруулж магадгүй юм.

Одоо та ердийн осол эсвэл ердийн ослын онол (NAT) гэж нэрлэж болох ослын тухай өргөн хүрээтэй онолтой алхам алхмаар танилцсан. Энэ ойлголтыг судалсан судлаачдын дөхөм тайлбарыг энд оруулав: “Хангалттай хэмжээгээр ямар ч систем “хэвийн осол” үүсгэдэг. Эдгээр нь нарийн төвөгтэй байдал, бүрэлдэхүүн хэсгүүдийн хоорондын холболт, болзошгүй хор хөнөөлийн хослолоос үүдэлтэй зайлсхийх боломжгүй осол юм. Энгийн осол нь ердийн осолд хүргэж буй үйл явдал, харилцан үйлчлэл нь системийн операторуудад ойлгомжгүй байдгаараа илүү нийтлэг эд анги эвдрэлийн ослоос ялгаатай юм (Роберт Уильямс ба "Хиймэл оюун ухааны алдааг ойлгох ба түүнээс зайлсхийх нь: Практик гарын авлага" номд дурдсанчлан). Роман Ямполский, Философи сэтгүүл).

Би чамайг гэх газар авчирсан шалтгаан ердийн осол Бид энэ онолыг манай нийгэмд аажмаар, зайлшгүй түгээмэл болж байгаа зүйлд, тухайлбал, Хиймэл оюун ухаан (AI) бий болсон зүйлд болгоомжтой хэрэглэх шаардлагатай болж магадгүй юм.

Үүнийг ухаад үзье.

Зарим хүмүүс хиймэл оюун ухааныг төгс төгөлдөр болно гэж худал төсөөлдөг. AI систем нь алдаа гаргахгүй бөгөөд биднийг асуудалд оруулахгүй гэж таамаглаж байна. Таны хийх ёстой зүйл бол хиймэл оюун ухаан хөгжүүлэгчид хангалттай сайн ажиллаж байгаа эсэхийг шалгах явдал бөгөөд хиймэл оюун ухаан хэзээ ч санамсаргүй эсвэл осол гаргасан гэж тайлбарлах аливаа зүйлийг хийхгүй.

Энэ таамаглал дээр тийм ч хурдан биш. Хэрэв та онолыг худалдан авахад бэлэн байгаа бол ердийн осол, аливаа нарийн төвөгтэй хиймэл оюун ухаан нь зайлшгүй осол авчрах болно. Эдгээр хиймэл оюун ухаан хөгжүүлэгчид ослоос урьдчилан сэргийлэхийн тулд хичнээн их оролдлого хийснээс үл хамааран хиймэл оюун ухаан хэзээ нэгэн цагт осолд орох нь дамжиггүй. Ингэж л жигнэмэг сүйрдэг. Энэ талаар бидний асгарсан сүүн дотор уйлах нь амралт байхгүй.

AI болон үзэл баримтлалын зарчмуудыг нэгтгэн тунгаан бод ердийн осол.

Бид цөмийн зэвсгийг хянадаг хиймэл оюун ухааны системтэй болсон гэж төсөөлөөд үз дээ. Хиймэл оюун ухааныг сайтар боловсруулсан. Боломжтой бүх хяналт, тэнцвэрийг AI системд кодчилсон болно. Бид хиймэл оюун ухаанд суурилсан ослоос аюулгүй юу? Ослын ердийн үзэл бодлыг дэмждэг хүмүүс бид таамаглаж байгаа шиг аюулгүй биш гэж хэлэх болно. Хиймэл оюун ухаан нь маш нарийн төвөгтэй байдаг тул ердийн осол хэзээ нэгэн цагт, магадгүй хамгийн муу мөчид гарч ирэхийг чимээгүй хүлээж байна.

Эдгээр хүнд хэцүү асуулт, түгшүүрийн гол санаа нь хиймэл оюун ухаан осолд өртөх нь гарцаагүй бөгөөд хүн төрөлхтөн учирч болзошгүй аюулын талаар ухаалгаар, идэвхтэй үйл ажиллагаа явуулах ёстой гэдэгт бид хөлийнхөө хуруунд байх ёстой. Хэдхэн хормын дараа та харах болно, энэ нь хиймэл оюун ухааныг ашиглах үед анхаарал татахуйц чухал асуудал бөгөөд AI ёс зүй ба ёс зүйн хиймэл оюун ухааны салбар юу хийх талаар нэлээд тэмцэж байна. Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI-ын талаарх миний байнгын бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Бид туулайн нүх рүү орохын өмнө хиймэл оюун ухааны мөн чанарын талаар нэг хуудсанд байгаа эсэхийг шалгацгаая. Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь танд зөвлөгөө өгөх хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна). Эдгээр бүх хувилбарууд нь эх сурвалжийн үнэлгээг нэмэгдүүлэх болно гэж хэлсэн.

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын загварт тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хиймэл оюун санааны ёс зүйн зарчмуудын ойлголтыг бий болгосноор бид ядаж хиймэл оюун ухаан нь юу хийж болох, юуг сөргөөр нөлөөлж болох талаар нийгмийн ойлголтыг нэмэгдүүлэх болно гэсэн ерөнхий найдвар юм. Би хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, түүний дотор үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмуудын мөн чанарыг судалж, нэгтгэн дүгнэсэн судлаачдын багцыг “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) өгүүлэлдээ багтаасан талаар дэлгэрэнгүй ярилцсан. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс хиймэл оюун ухааны ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Хиймэл оюун ухаанд суурилсан ёс суртахууны талаар бид онцлон анхаарч, урьдчилан сэргийлэх, эсвэл дор хаяж эрс багасгахын тулд илт арга хэмжээ авах шаардлагатай байгаа AI ёс зүйн жагсаалтад нэмж оруулах шаардлагатай байж магадгүй юм. ердийн осол Энэ нь тохиолдож магадгүй юм. AI хөгжүүлдэг хүмүүс энэ тал дээр чадах бүхнээ хийх хэрэгтэй. AI ашигладаг хүмүүс ч мөн адил хийх ёстой. Хиймэл оюун ухаан ашигладаг эсвэл ямар нэгэн байдлаар өртөж байгаа хүмүүс хиймэл оюун ухаантай холбоотой ослоос сэрэмжилж, болгоомжтой байх хэрэгтэй.

Та ослын магадлалыг тэг болгон бууруулах хангалттай урьдчилан сэргийлэх арга хэмжээг хиймэл оюун ухаанд суулгаж болно гэж бодоход уруу татагдаж магадгүй юм. Техникийн мэргэжилтэй хүмүүсийн хувьд аливаа техник асуудал үүсгэж чадвал өөр нэг технологи нь асуудлыг шийдэж чадна гэсэн ердийн бардам зан юм. Асуудал арилах хүртэл илүү их техникийг шидэж байгаарай.

Системд чиглэсэн ослыг судалсан хүмүүс Швейцарийн бяслагны загвар (SCM) гэж нэрлэгддэг үзэл баримтлалыг санал болгосноор санал нийлэхгүй бөгөөд эелдэг байдлаар няцаах хандлагатай байдаг. аюулгүй байдлын давхарга бүрийн сул талыг төлөөлдөг нүхтэй бяслаг. Цаг хугацаа өнгөрөх тусам нүхнүүд хэлбэрээ өөрчилж, хөдөлдөг. Эцэст нь хэчнээн зүсмэл бяслаг (аюулгүй байдлын давхарга) байгаагаас үл хамааран нүхнүүд нь тэгшилж, бяслагны бүх зүсмэлийг шууд нэвтлэх боломжийг олгоно (осол гарна)" (Роберт Уильямс, Роман Ямпольский нарын өмнө нь иш татсан нийтлэлийн дагуу). ).

Осол гарах магадлалыг бүхэлд нь, үргэлж урьдчилан сэргийлэхийн тулд хиймэл оюун ухааныг програмчлах баталгаатай арга зам байгаа эсэх талаар би энэ тал руу эргэлзэхийг хүсэхгүй байна. Математик болон тооцооллын бүх төрлийн нотлох аргуудыг туршиж байна. Өнөөдөр бидэнд ийм тэг боломжийг баталгаажуулж чадах томорч болохуйц ажлын арга барил, технологи байхгүй, мөн бид маш олон тонн хиймэл хиймэл оюун ухаанаар дүүрэн байгаа гэдгийг хэлэх нь үндэслэлтэй бөгөөд шударга гэж би бодож байна. ийм практикийг дагаж мөрдөхийг эрэлхийлээгүй гэдгийг баттай мэдэж байна. Сүүлчийн цэг нь маш чухал, учир нь бид хиймэл оюун ухааны лабораторид ямар нэг зүйлийг зохион бүтээж чадсан ч гэсэн үүнийг олон сая зэрлэг, хайхрамжгүй хиймэл хиймэл оюун ухааны хүчин чармайлт болгон өргөжүүлэх нь зангилаа асуудал бөгөөд мөнгө тооцоолох тооцооллын машин байсан ч шийдэгдэхгүй. сум байсан.

Товчхон дурдах нь зүйтэй гэж бодож байгаа өөр нэг зүйл бол хүний ​​​​хорлон санаат жүжигчдийн үр дүнд зохисгүй үйлдэл хийдэг хиймэл оюун ухаан юм. Би эдгээр тохиолдлуудыг хиймэл оюун ухааны ослын талбарт оруулахгүй. Нээлтийн хэлэлцүүлэгт ослын тухай тайлбар толь бичиг нь нэг тохиолдлын тухай санал болгосныг санаарай санаандгүй байгаль. Хэрэв хүний ​​кибер луйварчин хиймэл оюун ухааны системийг муу зүйл хийхэд хүргэж чадвал би энэ хиймэл оюун ухааныг осолд орсон гэж ангилахгүй. Та энэ таамаглалыг дагаж мөрдөнө гэдэгт итгэж байна.

Төрөл бүрийн хиймэл хиймэл оюун ухааны эсрэг үйлдлүүдийн дийлэнх нь хиймэл оюун ухааны осол, кибер гэмт хэрэгтний зальтай үйлдэлтэй холбоотой байж болох вэ гэсэн сонирхолтой асуулт гарч ирнэ. Одоо байгаа хиймэл оюун ухаантай холбоотой ослын мэдээллийн мэдээллийн сангаас үзэхэд хиймэл оюун ухааны осол нь хорлонтойгоор өдөөгдсөн тохиолдлоос илүү их тохиолддог бололтой, гэхдээ та энэ ойлголтыг давсны их тунгаар авч үзэх хэрэгтэй. AI систем халдлагад өртсөн үед мэдээлэхгүй байх, магадгүй хиймэл оюун ухаант осол гарсан үед мэдээлэх хүсэл эрмэлзэл их байдаг учраас би үүнийг хэлж байна.

AI ослын талаар бид хэлэлцэх ёстой маш чухал анхааруулга байна.

"AI осол" гэсэн тодотголыг ашиглах нь ерөнхийдөө хүсээгүй зүйл бөгөөд бид бүгдэд маш эмх замбараагүй байдал үүсгэх болно, энэ нь бүх нийгэмд хамаатай. Хүн осолд ороход бид мөрөө хавчиж, осолд өртсөн хүнийг өрөвддөг. Бид “Осол” гэдэг үгийг болсон явдалд хэн ч хариуцлага хүлээхгүй гэсэн үг мэтээр хандаж байх шиг байна.

Машины осолд орсон жишээг авч үзье. Нэг машин баруун гар тийшээ өргөн эргэлдэж, санамсаргүйгээр урдуур явж байсан өөр машин руу дайрчээ. Шакс, энэ бол зүгээр л осол байсан бөгөөд санамсаргүйгээр болсон. Энэ үйл явдлыг зүгээр л осол болсон гэж дүгнэвэл уг үйл явдалд оролцоогүй хүмүүс асуудлыг орхиж магадгүй юм.

Хэрэв та мөргөсөн машинд байсан бол хэт өргөн эргэлт хийсэн жолоочийг өрөвдөж чадахгүй байх байсан юм шиг санагдаж байна. Таны бодлоор нөгөө жолооч нь бүдүүлэг жолооч байсан бөгөөд хууль бус эсвэл ухаалаг бус жолоодлогын үйлдэл нь автомашины осолд хүргэсэн байх болно. Энэ үйл явдлыг "осол" гэж тэмдэглэснээр гацсан жолооч одоо зарим талаараа сул талтай болж байна, учир нь энэ бүхэн замбараагүй болсон жолоочийн гараар бус дан ганц тохиолдлоор болсон юм.

Үнэн хэрэгтээ, "осол" гэдэг үг нь янз бүрийн утга агуулгаар дүүрэн байдаг тул ерөнхийдөө автомашины ослын талаарх засгийн газрын статистик мэдээлэлд автомашины осол гэх хэллэгийг ашиглахаас илүүтэйгээр автомашины мөргөлдөх, эсвэл машинд мөргөлдөх гэх мэт асуудлыг авч үздэг. Машин мөргөлдөх, осолдох нь хэрэг явдал хэрхэн болсон талаар ямар ч нөлөө үзүүлэхгүй байх шиг байна. Энэ хооронд "авто осол" гэсэн хэллэг нь хувь тавилангийн содон юм уу эсвэл ямар нэгэн байдлаар хүн төрөлхтний гараас гадуур байсан гэж бодоход хүргэдэг.

Та хиймэл оюун ухааны ослыг дурдахад энэ утга санаа хэрхэн хэрэгжиж байгааг харж болно. AI хөгжүүлэгчдийг хиймэл оюун ухаан нь санамсаргүй байдлаар хэн нэгэнд хор хөнөөл учруулсан гэсэн бамбайны ард нуугдахыг бид хүсэхгүй байна. AI ашигладаг хүмүүст мөн адил хамаарна. "AI осол" гэсэн хэллэг нь хиймэл оюун ухааны хөшигний ард байсан хүмүүсийг хариуцлагаас мултрах боломжийг нийгмийг төөрөгдүүлсэн хиймэл оюун ухааныг бараг хүн хэлбэрт оруулсан гэж та маргаж болно. Хиймэл оюун ухаандаа хүмүүсийг хариуцлагатай болгохын ач холбогдлын талаарх миний хэлэлцүүлгийг эндээс үзнэ үү энэ линкийг эндээс авна уу болон энэ линкийг эндээс авна уу.

Би цаашид хиймэл оюун ухааны ослын тухай онцлох хэллэгийг ашиглах болно, гэхдээ би үүнийг дурамжхан, зөвхөн энэ үзэгдлийг дурдах уламжлалт арга учраас л хийх болно. Үүнийг өөрөөр хэлэх гэсэн оролдлого нь харамсмаар илүү хөөрч, уншихад тийм ч хялбар биш байдаг. Хиймэл оюун ухаан буруугаар эргэхэд хиймэл оюун ухааны ард байгаа хүмүүс буруутай гэдгийг ойлгохгүй байх үүднээс уг оньсого хэллэгийг тайлбарлахыг анхаарна уу.

Хиймэл оюун ухааныг осол аваар гэж нэрлэх нь төөрөгдөл, төөрөгдөлтэй талуудыг харуулахын тулд бид ваарыг тогших тухай миний хэлсэн үг рүү буцаж болно. Хиймэл оюун ухаан үүнийг хийж байгаа жишээг авч үзье: "Энэ асуудал нь хиймэл оюун ухаан санамсаргүй байдлаар эсвэл хайхрамжгүй байдлаар хийгдсэн зүйлүүдтэй холбоотой юм. Цэвэрлэгч робот ваарыг тогшиж байгаа нь үүний нэг жишээ юм. Нарийн төвөгтэй орчинд маш олон төрлийн "ваар" байдаг тул бид бүх сөрөг үр дагаврыг шийтгэх боломжгүй юм." (Роберт Уильямс, Роман Ямполский нарын нийтлэлийн дагуу).

Айл өрхөд ашиглалтанд орсон хиймэл оюун ухааны систем нь ваарыг "санамсаргүйгээр" цохих нь хиймэл оюун ухааны энэ сөрөг үйлдлийг хэн ч буруутгах ёсгүй юм шиг санагдаж байна. Энэ бол зүгээр л нэг санамсаргүй тохиолдол байсан гэж харамсаж гашуудаж болно. Нөгөөтэйгүүр, хиймэл оюун ухааны систем яагаад ваарны нөхцөл байдлыг ерөнхийд нь зохицуулахаар програмчлагдаагүйг бид зөв асуух ёстой. Хиймэл оюун ухааныг хөгжүүлэгчид ваарыг учирч болох объектын хүрээнд гэж таамаглаагүй байсан ч бид яагаад хиймэл оюун ухааны системийг тогшихоос хамгаалсан объектоос зайлсхийх ямар нэг ерөнхий арга хэмжээ аваагүй юм бэ гэдэгт эргэлзэх нь гарцаагүй. ваар (Тиймээс хиймэл оюун ухаан нь ваарыг ваар гэж ангилахгүй байж болох ч үүнийг илрүүлэх боломжтой объект гэж зайлсхийх боломжтой байсан).

"AI-ийн осол"-д өртөж, ямар нэгэн байдлаар хор хөнөөл учруулдаг хиймэл оюун ухааны системүүд үүсэхтэй холбоотой хууль эрх зүйн асар том тэмцэлд бид аажмаар явж байна гэж би таамаглаж байсан бөгөөд одоо ч таамаглаж байна. Өнөөг хүртэл нийгэм зах зээл рүү шахагдаж, санаатайгаар эсвэл санамсаргүй байдлаар сөрөг үр дагаварт хүргэж буй хиймэл оюун ухааныг хууль ёсны дагуу түлхэхэд ямар нэгэн хариу үйлдэл үзүүлээгүй байна. Хиймэл оюун ухааныг хагас боловсруулсан AI бүтээгчид болон хиймэл оюун ухааныг нэвтрүүлэхийг яаравчлан хэрэгжүүлж буй өнөөгийн хиймэл оюун ухаанд яг одоо аз тохиож байгаа бөгөөд иргэний хэрэг шүүхэд хянан шийдвэрлэх ажиллагаа болон эрүүгийн хэрэг бүртгэлтэд харьцангуй өртөөгүй хэвээр байна.

Хиймэл оюун ухаантай холбоотой хууль эрх зүйн хариу урвал эрт орой хэзээ нэгэн цагт ирэх болно.

Цаашид хиймэл оюун ухаантай холбоотой ослын зайлшгүй нөхцөл байдлыг хэрхэн даван туулах вэ?

Бидний нэн даруй хийж чадах нэг зүйл бол хиймэл оюун ухаант осол хэрхэн гарч болохыг урьдчилан таамаглах явдал юм. AI-ийн ослыг урьдчилан тооцоолсноор бид наад зах нь тэдгээрийг багасгах, эсвэл гарах магадлалыг багасгах арга хэрэгслийг хайж олох боломжтой. Цаашилбал, бид хиймэл оюун ухаант осол гарах үед үзүүлэх хор хөнөөлийг бууруулахын тулд хамгаалалтын хашлага байрлуулахыг оролдож болно.

Өмнө дурьдсан судалгааны өгүүлэлд тайлбарласан тустай хүчин зүйлсийн багц AI алдааг ойлгох ба түүнээс зайлсхийх нь: Практик гарын авлага Эдгээр шинж чанаруудыг багтаасан болно (судалгааны баримтаас иш татсан):

• AI-ийн гаралтад нөлөөлдөг систем.
• AI гаралт болон том системийн хоорондох хугацааны хоцрогдол, системийн ажиглалт, хүний ​​анхаарлын төвшин, хиймэл оюун ухааны алдааг засах операторуудын чадвар.
• AI-ийн удирддаг системийг хортойгоор ашигласнаар учирч болох хамгийн их хохирол.
• AI-тай ойролцоо бүрэлдэхүүн хэсгүүдийн холболт ба харилцан үйлчлэлийн нарийн төвөгтэй байдал.
• Ашигласан хиймэл оюун ухаан болон бусад технологийн мэдлэгийн зөрүү, системийн эрчим хүчний түвшин.

Энэхүү том хэлэлцүүлгийн мөчид та хиймэл оюун ухааны ослын сэдвийг илүү тодотгож өгөх зарим жишээг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд бий болсон нь хиймэл оюун ухаан гэж нэрлэгддэг ослын талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин ба хиймэл оюун ухааны осол

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Бид одоо автомат жолоодлоготой машинууд болон хиймэл оюун ухааны осол гэж нэрлэгддэг ослыг бий болгоход хүргэдэг Ёс суртахууны хиймэл оюун ухааны боломжуудын талаар гүнзгий судлахад бэлэн байна.

Танай хөршийн гудамжинд хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин гарч, аюулгүй жолоодож байна гэж төсөөлөөд үз дээ. Эхлээд та өөрөө жолоодлоготой машиныг харах бүртээ онцгой анхаарал хандуулдаг байсан. Автономит машин нь видео камер, радарын төхөөрөмж, LIDAR төхөөрөмж гэх мэт электрон мэдрэгч бүхий өлгүүрээрээ бусдаас ялгарч байв. Өөрийгөө жолооддог машин танай нутгийн эргэн тойронд олон долоо хоног аялсны дараа та үүнийг бараг анзаарахаа больсон. Таны хувьд энэ бол аль хэдийн ачаалал ихтэй нийтийн зам дээр байгаа өөр нэг машин юм.

Өөрийгөө жолооддог машинтай танилцах нь боломжгүй юм уу, үнэмшилгүй юм болов уу гэж бодогдохгүйн тулд өөрөө жолоодлоготой автомашины туршилтад хамрагдаж буй орон нутгийн иргэд аажмаар гацсан машинуудыг харж дассан тухай би олонтаа бичсэн. Нутгийн оршин суугчдын олонх нь эцэст нь амаа ангайж гөлрөхөөс уйтгар гунигт автах руу шилжиж, өөрөө жолоодлоготой машинуудыг нүдээр харах болжээ.

Магадгүй яг одоо тэд бие даасан тээврийн хэрэгслийг анзаарч байгаа гол шалтгаан нь цочрол, цочроох хүчин зүйлтэй холбоотой байж болох юм. Номын дагуу хийгдсэн хиймэл оюун ухаантай жолоодлогын системүүд нь машинууд хурдны хязгаарлалт, замын хөдөлгөөний дүрмийг дагаж мөрддөг эсэхийг шалгадаг. Уламжлалт хүнээр жолооддог машинаараа ачаалал ихтэй жолооч нарын хувьд хууль дүрмийг чанд мөрддөг хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашины ард гацсан үед та бухимддаг.

Энэ нь зөв ч бай, буруу ч бай бид бүгдэд дасах хэрэгтэй байж болох зүйл юм.

Бидний үлгэр рүү буцах.

Нэг өдөр өөрийгөө жолооддог машин осолд ордог.

Баруун тийш эргэх үед хиймэл оюун ухаан жолоодлогын систем нь автомат жолоодлоготой машиныг өргөн эргүүлж, хүний ​​жолоодлоготой машин мөргөсөн. Хүний жолоодлоготой машин замын хөдөлгөөний зөв эгнээгээр урагшаа явж байсан. Хүний жолоочийн хувьд хазайх, мөргөхөөс зайлсхийх онцгой боломж байгаагүй. Түүнчлэн өөрөө жолоодлоготой машин баруун эргэх гэж байна гэсэн ямар ч анхааруулга, заалт байгаагүй.

Энэ осол мөн үү?

Энэ нь хиймэл оюун ухааны осол гэсэн ангилалд багтсан гэж бид гарцаагүй хэлж чадна. Өөрийгөө жолооддог машины жолоодлого дээр хиймэл оюун ухаантай жолоодлогын систем байсан нь ийм мэдэгдлийн үндэс суурь юм. Ямар нэгэн шалтгаанаар хиймэл оюун ухаан баруун тийш эргэхдээ өргөн савлуур хийхээр сонгосон. Үүний үр дүнд өөрөө жолоодлоготой машин хүн жолооддог машиныг мөргөсөн.

"Осол" гэдэг үгтэй холбоотой утгуудын тухай өмнөх ярилцлагыг эргэн санаж, энэ хувилбарт ийм өнгө аяс хэрхэн гарч ирж байгааг хараарай. Мөн хүний ​​жолоодлоготой машин баруун тийш өргөн эргэлт хийж, хүний ​​жолоодлоготой машин руу гүйж явсан хэргийг бид ярилцсаныг санаарай. Энэ үйлдлийг “осол” гэсэн ойлголт нь төөрөгдүүлж, төөрөгдүүлж байгааг бид ойлгосон. Өргөн савлуур хийсэн хүний ​​жолооч зүгээр л тохиолдлын эсвэл хувь тавилангийн төөрөгдлөөс болж осол гарсан гэсэн санааны ард нуугдаж чаддаг.

Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин өргөн явж, хүний ​​жолоодлоготой машиныг мөргөж байгаа тохиолдолд "AI осол" гэсэн хувилбарыг бичихийн оронд энэ нь автомашины осол эсвэл өөрөө өөрийгөө жолоодсон машинтай мөргөлдсөн гэж хэлэх нь зүйтэй болов уу. машин жолоодох ба хүний ​​жолоодлоготой машин. Дараа нь бид үүнийг үл мэдэгдэх арга хэрэгслээр тохиолдсон санамсаргүй төөрөгдлөөс ангижруулж чадна.

Энэ үйл явдалд олон нийт ямар хариу үйлдэл үзүүлэх бол гэж та бодож байна вэ?

Автомашин үйлдвэрлэгч эсвэл өөрөө жолоодлоготой технологийн фирм энэ асуудлыг осол гэж тэмдэглэж чадвал олон нийтийн зүгээс гарч болзошгүй сөрөг хариу урвалыг тойрон гарах боломжтой. Бүх өгүүлсэн ослын талаархи өрөвдөх сэтгэл нь тухайн нөхцөл байдалд урсаж магадгүй юм. Хот, муж, муж улсын удирдагчид хиймэл оюун ухаант тээврийн хэрэгслийн осолд хэрхэн хариу үйлдэл үзүүлэх талаар илүү ихийг мэдэхийг хүсвэл миний хамтран удирдсан Харвардын судалгааны хэлэлцүүлгийг үзнэ үү. холбоос энд байна.

Хэрэв нөхцөл байдлыг автомашины осол эсвэл машин мөргөлдсөн гэж тодорхой тайлбарлавал магадгүй энэ нь тухайн үйл явдалд хэн нэгэн эсвэл ямар нэгэн зүйл буруутай гэдгийг ойлгох боломжийг олгоно. Өвдөг шороодсон хариу үйлдэл нь хиймэл оюун ухаан хариуцлага хүлээх ёстой гэсэн үг байж магадгүй юм. Гол нь бид хиймэл оюун ухааныг хуулийн этгээдийн дүр төрхтэй болгохоор шийдэх хүртэл эсвэл хэзээ нэгэн цагт та хиймэл оюун ухаанд хариуцлага хүлээх боломжгүй болно (Миний хиймэл оюун ухаан ба хуулийн этгээдийн талаарх хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна).

Зохисгүй жолоодлого болон дараа нь машин осолдход юу хүргэсэн болохыг олж мэдэхийн тулд бид хиймэл оюун ухааны жолоодлогын системийг шалгаж үзэх боломжтой. Энэ нь хиймэл оюун ухаан хариуцлага хүлээх болно гэсэн үг биш юм. Хариуцлагатай талуудад хиймэл оюун ухаан хөгжүүлэгчид, өөрөө жолооддог машины флотын оператор болон бусад хүмүүс орно. Эргэлт болсон булангийн дизайныг хот хэсэгчлэн хариуцах магадлалтай тул би бусдыг ч орууллаа. Нэмж дурдахад, явган зорчигч булангаас гүйж байгаад хиймэл оюун ухаан жолоодох систем нь тэр хүнээс зайлсхийхийг сонгоод дараа нь автомашины осолд өртсөн гэж бодъё.

Тиймээ.

Дүгнэлт

Бид хиймэл оюун ухаан юуг тооцоолж, юу хийхээр програмчлагдсаныг мэдэхийг хүсч байна. AI кодлогдсоныхоо дагуу ажилласан уу? Магадгүй хиймэл оюун ухаан програмчлалын алдаа эсвэл алдаатай тулгарсан байж магадгүй бөгөөд энэ нь үйлдлүүдийг зөвтгөдөггүй боловч осол хэрхэн үүссэн талаар илүү их мэдээлэл өгдөг.

AI жолоодлогын системд ямар төрлийн хиймэл оюун ухааны хамгаалалтын хашлага програмчлагдсан бэ? Хэрвээ хашлага байсан бол яагаад машиныг мөргөхөөс сэргийлж чадахгүй байгааг олж мэдэхийг хүсч байна. Магадгүй хиймэл оюун ухааны жолоодлогын систем эргэлт хийхээсээ илүү зогсонги байдалд орсон байж болох юм. Бид үйл явдлын явцад хиймэл оюун ухаан ямар хувилбаруудыг тооцоолсоныг мэдэхийг хүсч байна.

Тухайн үйл явдлын ёроолд хүрэхээс гадна өөр нэг зүй ёсны асуудал бол хиймэл оюун ухаан жолоодох систем нь үүнтэй төстэй сөрөг үйлдлүүдийг үүсгэдэг дутагдал эсвэл бусад суулгасан талтай эсэх явдал юм. Нэг ёсондоо энэ үйл явдал цаашдын үйл явдлуудыг илтгэх шинж тэмдэг байж магадгүй юм. Энэ төрлийн хиймэл оюун ухаан жолоодох системийг урьдчилан таамаглахын тулд жолоодлогын нөхцөл байдлын компьютерт суурилсан загварчлалыг хэрхэн ашигласан бэ? Автомашины осолд хүргэж болзошгүй хиймэл оюун ухааны асуудлыг шийдвэрлэхийн тулд зам дээр жолооны шалгалт хангалттай байсан уу?

Энэхүү хувилбар нь хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашинууд гарч ирэхэд тулгарч буй маргаантай тааварыг онцолж байна.

Энэ нь ингэж явдаг.

Нэг талаас, хиймэл оюун ухаантай жолоодлогын систем нь хүний ​​жолоочтой адил аюулгүй, магадгүй илүү аюулгүй байх болно гэсэн найдлагаас үүдэн өөрийгөө жолооддог машиныг хурдан нэвтрүүлэх хүсэл нийгэмд бий. Зөвхөн АНУ-д л гэхэд бид жилд 40,000 орчим хүн автомашины ослоор нас барж, 2.5 сая орчим хүн гэмтэж бэртдэг. Шинжилгээгээр эдгээр автомашины ослын нэлээд хэсэг нь согтуугаар тээврийн хэрэгсэл жолоодсон, анхаарал сарниулсан үедээ жолоо барьсан гэх мэт хүний ​​буруутай үйлдлээс шалтгаалдаг болохыг харуулж байна. холбоос энд байна).

AI жолоодлогын систем нь архи ууж, жолоо барихгүй. Тэд амрах шаардлагагүй бөгөөд жолоо барьж байхдаа ядрахгүй. Өөрийгөө жолооддог автомашиныг боломжийн тээврийн хэрэгсэл болгосноор бид хүний ​​жолооч нарын тоог бууруулж чадна гэсэн таамаглал юм. Энэ нь эргээд автомашины ослоос үүдэлтэй хүний ​​амь нас хохирч, гэмтэж бэртдэг жил бүрийн тоог ерөнхийд нь бууруулна гэсэн үг.

Зарим шинжээчид бид үхлийн үр дагавар, гэмтэл бэртэлгүй байх болно гэж хэлсэн бөгөөд өөрөө жолоодлоготой машинууд осолдох боломжгүй гэж үздэг ч энэ нь үнэхээр утгагүй бөгөөд туйлын худал хүлээлт юм. Энэ яагаад ийм шударга бус байдгийг би тайлбарласан холбоос энд байна.

Ямар ч тохиолдолд бид өөрөө жолоодлоготой машинууд оролцдог автомашины осолд орно гэж бодъё. Эдгээр автомашины ослууд нь тодорхой хэмжээний хүний ​​амь нас, бэртэл гэмтэлтэй байх болно гэж бодъё. Нийгэм бид ийм тохиолдлуудыг тэвчихэд бэлэн үү гэсэн асуултыг зовоож байна. Жинхэнэ автомат жолоодлоготой машинаас болж нэг хүн амь насаа алдах юм уу, нэг бэртэл гэмтэл гарвал бүхэл бүтэн иж бүрдэл, иж бүрдлийг хаах хэрэгтэй гэж зарим хүмүүс хэлдэг.

Хэрэв аврагдсан хүмүүсийн амь нас жил бүр буурч байгаа бол бид өөрөө жолоодлоготой машин бий болгохыг үргэлжлүүлэн дэмжиж, ийм логикгүй байдлаар хариу үйлдэл үзүүлэхгүй байх ёстой гэсэн сөрөг үзэл бодол юм. Өөрийгөө жолооддог машинтай ч гэсэн тодорхой хэмжээний хүний ​​амь нас хохирч, бэртэж гэмтэх тохиолдол байсаар байх болно гэсэн байр суурийг хүлээн зөвшөөрөх хэрэгтэй, гэхдээ жилийн тоо буурч байгаа нь бидний зөв зам дээр байгааг илтгэж байгааг ойлгох хэрэгтэй.

Мэдээжийн хэрэг, компьютерт суурилсан загварчлалын үр дүнд эсвэл хувийн хаалттай туршилтын үр дүнд ийм хэрэглээнд зориулагдаагүй бол бид нийтийн эзэмшлийн зам дээр өөрөө жолооддог машинтай байх ёсгүй гэж зарим хүмүүс маргаж байна. Өөрийгөө жолооддог машиныг жолоодох цорын ганц боломжтой бөгөөд хамгийн хурдан арга бол нийтийн эзэмшлийн зам талбайг ашиглах явдал бөгөөд өөрөө жолоодлоготой машин нэвтрүүлэхийг хойшлуулах нь хүний ​​жолоодлоготой автомашины ослын аймшигт тооллогыг үргэлжлүүлэх боломжийг олгоно. Би энэ мэтгэлцээний талаар дэлгэрэнгүй өгүүлсэн бөгөөд уншигчдыг энэхүү маргаантай асуудлын талаарх хэтийн төлөвийг бүрэн дүүрэн ойлгохын тулд эдгээр хэлэлцүүлгийг үзэхийг уриалж байна.

Одоохондоо бүх зүйлийг дуусгая.

AI-ийн осол гарах болно. Хиймэл оюун ухааны ослыг харагдах мэтээр тайлбарлах түлхэцийг бид эсэргүүцэх ёстой санамсаргүй байдлаар Тиймээс бүтээгчид болон хиймэл оюун ухааныг нэвтрүүлж буй хүмүүсийг бүрэн тасархай болгов.

Таны өдрийн хамгийн сонирхолтой санаа болгон танд үлдээсэн нэмэлт өөрчлөлт бий.

Инээдмийн жүжигчин Дэйн Күүк автомашины ослын тухай энэ хошигнолыг ярьжээ: “Хоёр хоногийн өмнө би машины осолд орсон. Миний алдаа биш. Чиний буруу биш ч гэсэн нөгөө хүн машинаасаа буугаад чамайг буруутай юм шиг хараад: Чи яагаад улаан гэрэл дээр зогсчихоод чамайг 80 гээд цохичихов оо!"

Хиймэл оюун ухаантай холбоотой осол гарахад хиймэл оюун ухаан нь хүний ​​буруугаас болсон, мэдээж хиймэл оюун ухааны буруу биш гэдгийг батлахын тулд хиймэл оюун ухааны систем сонгох боломжтой гэсэн таамаг анхаарал татаж байна. Дашрамд хэлэхэд, энэ нь үнэхээр үнэн байж магадгүй бөгөөд хүн хиймэл оюун ухааны буруу гэж үзэн хиймэл оюун ухааныг буруутгахыг оролдож магадгүй юм.

Эсвэл хиймэл оюун ухаан нь хүнийг буруутгах гэж оролддог байж магадгүй юм.

Бидний зохион бүтээсэн хиймэл оюун ухаан санамсаргүй ч бай, тийм ч төвөгтэй байж магадгүй гэдгийг та харж байна.