Нисгэгч болон туслах нисгэгч нар хөөрөхөөс өмнө санал зөрөлдөж, гэнэт таксигаар терминал руу буцаж, өөр өөр замаар явах болсон Аляскийн агаарын тээврийн энэ нислэгээс авсан хиймэл оюун ухааны ёс зүй ба автономит системийн сургамж.

Агаарын тээврийн компаниуд сүүлийн үед нэлээдгүй мэдээлэл гарах болсон.

Бид зуны улиралд нислэгийн ачаалалтай байна. Ядарсан, бухимдсан зорчигчид янз бүрийн нислэгийн саатал, агаарын тээврийн компанийн хуваарийн зөрчилтэй тулгардаг. Нислэгүүд гэнэтийн байдлаар цуцлагддаг. Нислэгүүд хойшлогдож байна. Зорчигчид утаа гаргадаг. Зорчигчдод ийм бухимдал гарахыг зөвшөөрсөн тохиолдол харамсалтай нь олон байсан бөгөөд бид бие биетэйгээ мөргөлдөж, заримдаа нударга зөрүүлж буй дэндүү олон вирусын бичлэгийг харсан.

Бид нисгэгч болон туслах нисгэгч хоёрын бүхээгт байх үед гарч болох маргааны талаар илүү ховор суралцдаг.

Энэ бол үнэхээр гэнэтийн зүйл юм.

Нисгэгч, туслах нисгэгч хоёр нислэгийн аль ч үе шатанд ноцтой санал зөрөлдөөнтэй байх болно гэж бид үнэхээр гайхдаг. Хэрэв санал зөрөлдөөн нь аль брэндийн кофе хамгийн тохиромжтой вэ гэдэгтэй холбоотой бол бидний таамаглаж байгаагаар энэ нь онгоцоор нисэх ажилд хөндлөнгөөс оролцохгүй байх болно. Нислэгт хамааралгүй мэт санагдах сэдвийн талаар тэр хоёр нүд салгалгүй зүгээр л мөрөө хавчина. Тэдний мэргэжлийн зан байдал, олон жилийн нисгэгчдийн сургалт эхэлж, нислэгийн нарийн ширийн зүйлд анхаарлаа хандуулах болно.

Хэзээ а мэргэжлийн санал зөрөлдөөн хөндлөнгөөс оролцдог.

Саяхан АНУ-д нислэгийн үеэр болсон бүхээгт мэргэжлийн санал зөрөлдөөнтэй холбоотой ямар нэг зүйл тохиолдсон тухай өргөн тархсан мэдээг би та бүхэнтэй товч хуваалцах гэж байна.

Хиймэл оюун ухаан (AI) бий болоход чухал ач холбогдолтой холбоотой сэдвийг судлахын тулд үүнийг голчлон энд дурдсан болно. Та харж байна уу, зөвхөн хүнээс хүний ​​хооронд үл ойлголцох мэргэжлийн санал зөрөлдөөн гэж хэлэх нэг хэлбэр байж болох ч хиймэл оюун ухааныг нэвтрүүлэх үед үүнтэй төстэй зүйл тохиолдож болно. . Хиймэл оюун ухааны ёс зүйн бүх төрлийн асуудал гарч ирдэг. Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI асуудлуудын талаар миний өргөн хүрээтэй бөгөөд тасралтгүй сурвалжлахыг үзнэ үү холбоос энд байна болон холбоос энд байна, хэдхэнийг нь нэрлэх гэсэн юм.

Сонирхолтой үлгэрт өөрийгөө бэлдээрэй.

Саяхан мэдээлснээр, Вашингтоноос Сан Франциско руу явж байсан Alaska Airline-ийн нислэгийн үеэр "мэргэжлийн санал зөрөлдөөн" гарсан хэрэг гарчээ. Мэдээллийн дагуу нисэх онгоц хаалганаас холдож, такси болон нисэх зөвшөөрлийг цардмал тавцан дээр хүлээж байв. Шуурга болж, нислэг нэг цаг хагасаас илүү саатахад хүргэсэн. Нисэх онгоц эцэст нь эргэж, хаалга руу буцаж очсон нь тодорхой болсон бөгөөд зарим зорчигчид үүнийг шуургантай холбоотой аюулгүй байдлын урьдчилан сэргийлэх арга хэмжээ гэж таамаглаж магадгүй юм.

Янз бүрийн жиргээгээр нисгэгч, туслах нисгэгч хоёр бүхээгт байх хугацаандаа ямар нэгэн байдлаар үл ойлголцолд орж байсан бөгөөд ямар нэгэн байдлаар хамгийн ухаалаг арга бол нислэгийг цэвэрлэж, терминал руу буцах байх гэсэн дүгнэлтэд хүрсэн бололтой. . Твиттерт ахмад, нэгдүгээр офицер хоёр хоорондоо таарч тохирохгүй байгаа бололтой. Дараа нь агаарын тээврийн компани нөхцөл байдал харамсалтай (нөхцөл байдлыг тодорхой тайлбарлаагүй, тайлбарлаагүй) гэсэн мэдэгдэл гаргаж, хоёр нислэгийн ажилтныг удирдлага үнэлж, нисэх боломжтой гэж үзэн, багийн гишүүдийг сольж, нислэг дуусгавар болсон. Тэгээд дараа нь Сан Францискод хүрэв.

Нэг талаараа, хэрэв нисгэгч болон туслах нисгэгч хоёр онгоц нисэхэд тохиромжтой эсэх, эсвэл шуурганаар нисэх эрсдэл нь аюулгүй байдлын зохих хязгаарт багтсан эсэх зэрэг мэргэжлийн санал зөрөлдөөнтэй байсан бол тэдгээр зорчигчдын сэтгэл санааг тайвшруулж, тайвшруулах хэрэгтэй. Онгоцыг хаалга руу буцааж өгсөнд талархаж байна. Харамсахаасаа илүү аюулгүй байсан нь дээр. Нэмэлт саатал гарах нь бартаатай эсвэл таагүй нислэгтэй холбоотой эрсдэлийг бууруулахад чухал ач холбогдолтой юм.

Ийм мэргэжлийн санал зөрөлдөөн гарч байгаад зарим хүмүүс гайхах байх.

Бид бүхээгт болж буй бүх зүйл нарийн, сайн бичигдсэн байдаг гэсэн буруу сэтгэгдэлтэй байж магадгүй юм. Хүний үзэмжийн бүх хэлбэр үйл явцаас тасарчээ. Нарийвчлалтай, нарийн тооцоолсон график дээр үндэслэн нислэгийг үргэлжлүүлэх нь зөв, эсвэл үгүй. Бүхэл бүтэн иж бүрдэл, иж бүрдэл нь няцаашгүй тоо, баримт дээр үндэслэсэн гэж үзвэл ямар ч санал зөрөлдөөн байж болохгүй.

Энэ бол асуудлын бүрэн үнэн биш юм. Мэдээжийн хэрэг, олон тооны протоколууд, бүх төрлийн хяналт, тэнцвэрт байдал байдаг, гэхдээ энэ нь хүний ​​​​шүүлтийг бүхэлд нь шахаж чадахгүй. Нисгэгчид болон туслах нисгэгчид хүний ​​дүгнэлтийг хэрэгжүүлсээр байна. Аз болоход, хүний ​​​​энэхүү шүүлт нь олон жил ниссэний үр дүнд сайжирсан. Арилжааны зорчигч тээврийн онгоцны нисгэгч болон туслах нисгэгч нар өмнөх нислэгийн туршлагатай бөгөөд нислэгийн удирдлагад байхтай холбоотой олон жилийн гүн гүнзгий үндэслэл, дүгнэлтийг хялбархан ашиглаж чаддаг байх магадлалтай.

Хүний шүүлтийн чухал үүргийг харгалзан бид нисгэгч болон туслах нисгэгч хоёр заримдаа мэргэжлийн санал зөрөлдөөнтэй байх болно гэдгийг логикийн хувьд таамаглаж магадгүй юм. Ихэнх тохиолдолд ийм санал зөрөлдөөн маш бага байдаг. Өдөр тутмын нислэгийн нисгэгч болон туслах нисгэгч нь тухайн үеийн давамгайллыг сайн зохицуулдаг байх магадлалтай. Нислэгийн хувилбар ердийн хязгаараас давж гарсан тохиолдолд л бид илүү хурцадмал үрэлт үүсэхийг хүлээх болно.

Хэрэв энэ хоёрын хооронд хүчтэй санал зөрөлдөөн байгаа бол бид үүнийг арилгахыг хүсч байна гэж би зүрхлэх болно.

Нисгэгч цааш явахыг маш их хүсч байгаа ч туслах нисгэгч эрсдэл нь хэтэрхий өндөр байна гэж ойлгодог нөхцөл байдлыг төсөөлөөд үз дээ. Зөвхөн туслах нисгэгчийг нисгэгчид өгөх нь хүсээгүй мэт санагдана. Хоёрдахь нисгэгч нь нисгэгч юу хийх талаар бодож байгаа эсэхийг шалгах, тэнцвэржүүлэх явдал юм. Дахин нисгэгчийг амаа хамхиж, нисгэгчийн тушаалыг үл тоомсорлохыг хүсдэг хүмүүсийн хувьд энэ нь тийм ч баталгаа биш юм. Хоёрдахь нисгэгч бол зүгээр л нисгэгч бүрэн чадваргүй болсон үед л зураг дээр гардаг нөөц “нисгэгч” биш юм. Энэ бол бүхээгт нисгэгч, туслах нисгэгчтэй байхын үнэ цэнийг буруу ойлгосон явдал юм.

Үүнд өөр нэг өнцөг бий.

Нислэг үргэлжлэх ёстой гэдэгт итгэдэггүй нисгэгчийн жишээг авч үзье, тэр хооронд туслах нисгэгч агаарт босох гэж байна. Тэгээд яах вэ? Хүлээгдэж буй шатлалын дагуу нисгэгч нь туслах нисгэгчээс уламжлалт байдлаар давамгайлах ёстой. Үндсэн үүрэг гүйцэтгэгч байх үүрэг нь нисгэгчийг бусадтай тэнцүү зүйлээс илүү болгодог. Ер нь нисгэгч нь туслах нисгэгчээс илүү их нислэгийн хугацаатай байдаг тул туслах нисгэгч нь шаталсан байдлаар нисгэгчийн хүслийг (шалтгаантай үед) дагаж мөрдөх ёстой.

Ямар ч тохиолдолд нисэхгүй байх нь нисэхээр шийдсэнээс эрсдэл багатай сонголт гэдэгтэй бид бүгд санал нийлж чадна гэж би бодож байна. Онгоц агаарт гарсны дараа аливаа энгийн тогтвортой газар дээр байхтай харьцуулахад эрсдэлийн түвшин асар их болно. Агаарт хөөрөлгүйгээр терминал руу буцах ердийн арилжааны нислэг нь нислэгийн тухай ширүүн маргааныг шийдвэрлэхэд таатай шийдэл байх болно.

Араагаа сольж, энэ гайхалтай мэдээг огт өөр, гэхдээ харьцангуй тохиромжтой зорилгоор ашиглацгаая.

Бидний дунд хиймэл оюун ухаанд суурилсан бие даасан системүүд аажмаар тархаж байна. Заримдаа хиймэл оюун ухаан шоуг яг л яг л хийдэг. Хиймэл оюун ухаан нь А-аас Я хүртэлх бүх зүйлийг хийдэг бөгөөд бид үүнийг бүрэн бие даасан буюу бараг л тийм хиймэл оюун ухаан гэж ойлгож болно. Бусад тохиолдолд бид хүнтэй харьцдаг хиймэл оюун ухаантай байж болох бөгөөд тодорхой хэмжээгээр хүнтэй холбоотой байхаар програмчлагдсан байдаг.

Би хиймэл оюун ухаанд суурилсан бие даасан эсвэл хагас бие даасан системийн асуудалд анхаарлаа төвлөрүүлэхийг хүсч байна. Хиймэл оюун ухаан ба хүн хоёрыг санаатайгаар нэгтгэж, бие биетэйгээ зэрэгцэн ажиллах ёстой. Тэд бол тодорхой ажлыг гүйцэтгэхэд нэгдлүүд юм. Хиймэл оюун ухаан дангаараа даалгаврын дагуу ажиллах ёсгүй. Хиймэл оюун ухаан нь тодорхой хүнтэй харилцах ёстой.

Би энэ шинж чанарыг гогцоонд байгаа хүний ​​дүр төрхийг нэмэлт зүйл гэж үздэг нөхцөл байдлаас ялгахын тулд авчирч байна. Нэг ёсондоо хиймэл оюун ухаанд эрх чөлөөтэй байдаг. Хэрэв хиймэл оюун ухаан нь хүнийг ашиглахаар шийдсэн бол үүнийг хийх хэрэгтэй. Хиймэл оюун ухаан нь томилогдсон хүнтэй сууринд хүрэх эсвэл гар нийлэн ажиллах шаардлагагүй. Миний хэлэх гэж байгаа дүн шинжилгээнүүд нь мэдээжийн хэрэг ийм төрлийнхтэй холбоотой заавал харилцан үйлчлэлийн зохицуулалт, гэхдээ энэ нь миний энэ хэлэлцүүлгийн үеэр онцгойлон анхаарч байгаа зүйл биш юм.

За, тэгэхээр бидэнд хүн ба хиймэл оюун ухаан бие биенээсээ салшгүй хамтран ажиллах ямар нэгэн даалгавар байна. Хийсвэр утгаараа бид нэг суудалд хүн сууж байгаа бол нөгөө суудалд хиймэл оюун ухааны систем сууж байна. Бид энэ хэлэлцүүлгийг жишээлбэл суудалд сууж байгаа роботоор хязгаарлахгүй байгаа тул би үүнийг хачирхалтай хэлж байна. Би хиймэл оюун ухаан хаа нэгтээ энэ даалгаварт оролцдог, хүн ч бас оролцдог гэсэн ойлголтыг зүйрлэн хэлж байна. Бие махбодийн хувьд тэдний хаана байгаа нь хэлэлцүүлэгт тийм ч чухал биш юм.

Та ийм нөхцөл байдал хэзээ гарч болохыг мэдэхгүй байж магадгүй юм.

Хялбар тайван.

Би дараа нь автомат жолоодлоготой болон өөрөө жолооддог машин бий болох талаар ярилцах болно. Бие даасан байдлын тодорхой түвшинд хиймэл оюун ухаан болон хүн хамтран ажиллах ёстой. AI нь машин жолоодож, жолоодлогын удирдлагыг хүнээс авахыг хүсч магадгүй юм. Хүн машин жолоодож, удирдлагыг гартаа авахын тулд хиймэл оюун ухааныг идэвхжүүлж магадгүй юм. Тэд жолоодлогын хяналтыг ээлжлэн хийдэг.

Нэмж дурдахад, зарим загварт хиймэл оюун ухаан нь үргэлж бэлэн байхаар (эсвэл унтраагаагүй бол) үндсэндээ идэвхтэй байдаг. Цаашилбал, хиймэл оюун ухаан нь болж буй нөхцөл байдлаас шалтгаалан хүний ​​хүсэлтгүйгээр шууд хөндлөнгөөс оролцож болно. Жишээлбэл, хүн жолооны ард унтсан гэж бодъё. Хүн хиймэл оюун ухааныг (хүн унтаж байгаа учраас) идэвхжүүлж чадахгүй мэт санагдаж байгаа тул хиймэл оюун ухаан нь хүний ​​хяналтыг авахаар программчлагдсан байж магадгүй юм.

Зарим загварууд нь хиймэл оюун ухаан болон хүмүүсийг хос жолоодлогын хандлагад оруулдаг. Хиймэл оюун ухаан жолоодож, хүн жолоодож байна. Эсвэл хэрэв хүсвэл хүн жолоодож, хиймэл оюун ухаан бас жолоодож байна. Тэд тус бүр машин жолоодож байна. Би үүнийг жолоочийн сургалтанд хамрагдахдаа ашиглаж байсан тусгайлан суурилуулсан машинуудтай адилтгаж байна, мөн тээврийн хэрэгсэлд жолоодлогын хоёр иж бүрдэл байдаг, нэг нь оюутны жолооч, нөгөө нь жолооны багш юм.

Энэ бол хиймэл оюун ухаан болон хүмүүс ямар нэгэн даалгавар дээр хамтран ажиллаж байгаагийн нэг жишээ юм. Бүх төрлийн боломжууд бий. Нисэх онгоц, нисгэгчгүй онгоц, шумбагч онгоц, гадаргын хөлөг онгоц, галт тэрэг гэх мэт өөр төрлийн бие даасан тээврийн хэрэгслийг мөн адил зохион бүтээж болно. Бид зөвхөн тээврийн хэрэгсэл, тээврийн хэрэгслийн тохиргоог авч үзэх шаардлагагүй. Эмнэлгийн эмч, хиймэл оюун ухааны систем хамтран хийж буй эмнэлгийн хүрээ, мэс заслыг төсөөлөөд үз дээ. Жагсаалт төгсгөлгүй юм.

Бааранд хамт орж буй хүн, хиймэл оюун ухаан хоёрын тухай сонгодог шуугиантай онигоог хэлмээр санагдаж байна. Энэ нь хиймэл оюун ухаантай хүмүүсийн хувьд үнэхээр инээдэм юм.

Нухацтай хэлэхэд, өгөгдсөн даалгавар дээр хамтран ажиллаж байгаа хүн ба хиймэл оюун ухааны системийн анхаарлын төвд эргэн орцгооё. Нэгдүгээрт, би хиймэл оюун ухааныг антропоморфизм хийхээс зайлсхийхийг хүсч байгаа бөгөөд үүнийг би бүхэлд нь онцолж хэлэх болно. AI нь мэдрэмжгүй байдаг. Үүнийг санаарай.

Энд эргэцүүлэн бодох зүйл байна: Тохиромжтой хүн нь хамтран ажилладаг хиймэл оюун ухаантай үргэлж тохирч байх уу?

Аливаа нарийн төвөгтэй даалгаврын хувьд хүн болон хиймэл оюун ухаан нь бүхэлдээ, үргэлж түгжиж, алхаж байх нь юу л бол. Хүн зарим тохиолдолд хиймэл оюун ухаантай санал нийлэхгүй байх магадлалтай. Бид энэ таамаглалыг банкинд хүртэл хүргэж чадна.

Энэ магадгүй гайхмаар боломжийг бас авч үзэхийг танаас хүсч байна: Хиймэл оюун ухаан нь тодорхойлогдсон хүнтэй үргэлж тохирч байх уу?

Дахин хэлэхэд аливаа нарийн төвөгтэй даалгаврын хувьд хиймэл оюун ухаан нь зарим тохиолдолд хүмүүстэй тохирохгүй байх нь ойлгомжтой юм шиг санагддаг. Хэрэв та хиймэл оюун ухаан үргэлж буруу байх ёстой, харин хүмүүс үргэлж зөв байх ёстой гэсэн санаа руу аль хэдийн наалдаж байгаа бол та яаран дүгнэлтээ дахин бодож үзэх нь ухаалаг хэрэг болно. Хагас автомат машиныг хүн болон хиймэл оюун ухаантай хамтран жолооддог машиныг төсөөлөөд үз дээ. Хүн тоосгон хана руу чиглэнэ. Яагаад? Хүн согтуу эсвэл унтсан байж магадгүй, бид мэдэхгүй, гэхдээ тоосгон хана мөргөх нь тийм ч сайн санаа биш гэдгийг бид мэднэ. AI нь удахгүй болох гамшгийг илрүүлж, ирж буй саад бэрхшээлээс холдохыг эрэлхийлж магадгүй юм.

Бүх зүйлийг хэлэхэд, бид хиймэл оюун ухаан болон хүн хоорондоо санал нийлэхгүй байх онцгой боломжуудтай байх болно. Үүнтэй ижил зүйлийг хэлэх өөр арга бол хүн ба хиймэл оюун ухаан юм бие биетэйгээ санал нийлэхгүй байна. Би хиймэл оюун ухаан-хүн-хүн-хүн ба хиймэл оюун ухаан-хүн-хүн-хиймэл оюун ухаан хоёрын дараалал нь санал зөрөлдөөний чиглэл эсвэл үндэслэлтэй байдлын талаар ямар нэгэн зүйл санал болгохыг хүсэхгүй байна гэдгийг анхаарна уу.

Нэг нь хүн, нөгөө нь хиймэл оюун ухаантай хоёр ажилчин хоорондоо санал зөрөлдөж байна.

Өгөгдсөн хиймэл оюун ухаан ба тухайн хүний ​​хооронд санал зөрөлдөөн гарах бүрд бид хүн хиймэл оюун ухаанаас давамгайлдаг гэдгийг бид урьдчилж мэдэгдэж болно. Тоосгон хана руу чиглэн явж буй машины тухай миний жишээн дээрх жишээ нь хүн үргэлж зөв байх ёстой гэсэн итгэл үнэмшилтэй байх шиг байна.

Үүний эсрэгээр бид санал зөрөлдөөн гарах бүрд хиймэл оюун ухаан зөв, хүний ​​буруу гэдгийг урьдчилан нотолсон байх болно гэдгээ урьдчилан мэдэгдэж болно. Энэ нь бас ухаалгаар ерөнхийд нь хэлж болох заалт биш. Хиймэл оюун ухаанд ямар нэгэн суулгагдсан програм хангамжийн алдаа эсвэл алдаа байгаа машиныг төсөөлөөд үз дээ, хиймэл оюун ухаан нь тээврийн хэрэгслийг замаас холдуулж, суваг руу чиглүүлэхийг оролдож байна. Бусад бүх зүйл тэнцүү гэж үзвэл хүн хиймэл оюун ухааны жолоодлогын энэхүү үйлдлийг даван туулж, машиныг гуу жалганд буулгахаас сэргийлж чаддаг байх ёстой.

Үүнийг товч тоймлон хийцгээе:

• Хөдөлгөөнд байгаа хүн хиймэл оюун ухаантай үргэлж тохирч байх уу? Хариулт: Үгүй
• Хиймэл оюун ухаан нь хүнтэй байнга тохирч байх уу? Хариулт: Үгүй.
• Хиймэл оюун ухаантай харьцуулахад хүн үргэлж зөв байх болов уу? Хариулт: Байх албагүй.
• Хиймэл оюун ухаан нь хүнтэй харьцуулахад үргэлж зөв байх болов уу? Хариулт: Заавал биш.

Та хиймэл оюун ухааныг анхдагч байдлаар "буруу" эсвэл сул тал гэж үзэхийн тулд тохируулж болох тул санал зөрөлдөөн гарах болгонд хүн рүү хандах хэрэгтэй. Үүний нэгэн адил, хүн хиймэл оюун ухаантай санал нийлэхгүй байх үед хиймэл оюун ухаан нь "зөв" гэж тооцогдохоор хиймэл оюун ухааныг тохируулж болно. Хэрэв бид хүсвэл үүнийг программчлан хийж чадна гэдгийг би тодруулахыг хүсч байна. Ерөнхийдөө энэ нь үргэлж тийм байдаггүй гэдгийг би баталж байна. Өгөгдсөн даалгавартай холбоотой санал зөрөлдөөндөө аль нэгийг сонгохдоо хиймэл оюун ухаан нь "зөв" эсвэл хүний ​​"зөв" эсэхийг бид урьдчилж мэдэхгүй нөхцөл байдал бий.

Би чамайг маш чухал бөгөөд маш төвөгтэй асуулт руу хөтөлсөн.

Хиймэл оюун ухаан ба хиймэл оюун ухаан хоёрын хооронд мэргэжлийн санал зөрөлдөөн гарсан тохиолдолд бид яах ёстой вэ (эсвэл бид үүнийг хиймэл оюун ухаан ба гогцоонд байгаа хүний ​​хооронд гэж хэлж болно)?

Асуултаас бултах гэж бүү оролдоорой.

Зарим нь ийм зүйл хэзээ ч болохгүй гэж маргаж магадгүй ч би машины тухай жишээн дээр дурдсанчлан ийм зүйл тохиолдох нь гарцаагүй. Хүн бол илт давуу бөгөөд аливаа санал зөрөлдөөндөө ялагч байх ёстой гэж зарим хүмүүс маргаж магадгүй. Миний жишээ бол машин, тоосгон хана нь түүнийг нураадаг. Хүний сэтгэл хөдлөлийг ялан дийлж, санамсаргүй сэтгэдэг хүмүүсийн зохисгүй сэтгэхүйн улмаас хиймэл оюун ухаан ялагч байх ёстой гэж AI дэмжигчид шаардаж магадгүй юм. Дахин хэлэхэд, машин шуудуу руу явж байсан миний өөр жишээ энэ мэдэгдлийг үгүйсгэж байна.

Бодит амьдрал дээр хиймэл оюун ухаан ба хүмүүс хамтарсан даалгаврыг гүйцэтгэхийн тулд зориудаар багийн нөхцөл байдалд оруулсан ч гэсэн санал нийлэхгүй байх болно. Энэ нь тохиолдох болно. Бид толгойгоо элсэнд хийж, ийм зүйл болохгүй гэж дүр эсгэж болохгүй.

Онгоцыг удирдаж байсан хүмүүс үл ойлголцолд орсныг бид харсан. Баярлалаа, тэд санал нийлэхгүй байгаа тул санал нийлсэн бололтой. Тэд онгоцыг терминал руу буцааж авчирсан. Тэд санал зөрөлдөөнөө шийдвэрлэх арга замыг олсон. Тэд бүхээгт нударга зөрүүлж, эсвэл агаарт нисч, бие биетэйгээ тэмцсээр байсантай харьцуулахад тэдний санал зөрөлдөөнийг шийдвэрлэх нь сайн хэрэг болсон. Энэ бол тэвчихийн аргагүй гунигтай хувилбар бөгөөд ийм зүйл тохиолдоогүйд бид талархаж чадна.

Хиймэл оюун ухаан ба хүний ​​(эсвэл давталт дахь хүн ба AI) маргааныг шийдвэрлэх янз бүрийн арга замуудын жагсаалтыг гаргахыг надад зөвшөөрнө үү:

• Хиймэл оюун ухаан ба нэгдмэл хүмүүс бүх зүйлийг шийддэг (эвтэй эсвэл үгүй)
• Хүн төрөлхтөн хиймэл оюун ухаанаас давамгайлдаг
• AI нь анхдагч байдлаар хүнээс давамгайлдаг
• Урьдчилан тогтоосон тогтсон нарийвчлал нь анхдагчаар давамгайлдаг
• Гуравдагч этгээдийн хүмүүс холбогдсон бөгөөд тэдгээрийн заалт талуудаас давамгайлж байна
• Гуравдагч этгээдийн хиймэл оюун ухаан нэвтэрсэн бөгөөд түүний заалт талуудаас давамгайлж байна
• Гуравдагч талын хүн одоо байгаа хүнийг орлуулж, бүх зүйл шинээр өрнөнө
• Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөнө
• Гуравдагч талын хүн одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөж байна (одоо хүнээс хүн рүү)
• Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хүнийг орлуулж, бүх зүйл шинээр хөгжиж байна (одоо AI-аас AI)
• Бусад

Эдгээрийг задлахад маш их үнэ цэнэтэй юм.

Хиймэл оюун ухаан болон хүмүүсийн санал зөрөлдөөнтэй хэрхэн харьцах тухай зэрлэг ба ноосны талаар илүү их мах, төмс авч үзэхээсээ өмнө маш чухал сэдвүүдийн талаар зарим нэмэлт үндсийг хэлье. Бид хиймэл оюун ухааны ёс зүй, ялангуяа Machine Learning (ML) болон Deep Learning (DL) бий болсон тухай товчхон танилцах хэрэгтэй.

Өнөө үед хиймэл оюун ухаан, тэр ч байтугай хиймэл оюун ухааны салбарын гаднах хамгийн чанга дуу хоолой бол Ёс суртахууны хиймэл оюун ухааны талаар илүү их дуулиан шуугиан дэгдээх явдал гэдгийг та мэдэхгүй байж магадгүй юм. AI Ёс зүй ба Ёс суртахууны AI гэж юу гэсэн үг болохыг харцгаая. Дээрээс нь би Machine Learning болон Deep Learning-ийн талаар ярихдаа юу хэлэх гээд байгааг судлах болно.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс AI-ийн ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

AI болон хүний ​​хоорондох санал зөрөлдөөндөө анхаарлаа хандуулцгаая.

Эдгээр нь санал зөрөлдөөн шийдвэрлэх зарим стратеги гэдгийг би өмнө нь хэлсэн.

• Хиймэл оюун ухаан ба нэгдмэл хүмүүс бүх зүйлийг шийддэг (эвтэй эсвэл үгүй)
• Хүн төрөлхтөн хиймэл оюун ухаанаас давамгайлдаг
• AI нь анхдагч байдлаар хүнээс давамгайлдаг
• Урьдчилан тогтоосон тогтсон нарийвчлал нь анхдагчаар давамгайлдаг
• Гуравдагч этгээдийн хүмүүс холбогдсон бөгөөд тэдгээрийн заалт талуудаас давамгайлж байна
• Гуравдагч этгээдийн хиймэл оюун ухаан нэвтэрсэн бөгөөд түүний заалт талуудаас давамгайлж байна
• Гуравдагч талын хүн одоо байгаа хүнийг орлуулж, бүх зүйл шинээр өрнөнө
• Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөнө
• Гуравдагч талын хүн одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөж байна (одоо хүнээс хүн рүү)
• Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хүнийг орлуулж, бүх зүйл шинээр хөгжиж байна (одоо AI-аас AI)
• Бусад

Эдгээрийг задлах цаг болжээ.

Юуны өмнө энэ нь бүх зүйлтэй холбоотой гэдгийг анхаарч үзээрэй мэргэжлийн санал зөрөлдөөн.

Мэргэжлийн санал зөрөлдөөн нь ажилтай холбоотой санал зөрөлдөөн гэж тодорхойлогддог.

Жишээлбэл, шуургатай тулгарсан нислэгийг үргэлжлүүлэх эсэх талаар нисгэгч, туслах нисгэгч хоёрын хооронд үүссэн санал зөрөлдөөнийг мэргэжлийн санал зөрөлдөөн гэж нэрлэж болно. Үүний эсрэгээр, нисгэгч ямар брэндийн кофег дэмжиж байгаа болон туслах нисгэгчийн илүүд үздэг брэндтэй холбоотой ширүүн санал зөрөлдөөнийг энэ нөхцөлд мэргэжлийн бус санал зөрөлдөөн гэж шууд ангилдаг.

Мэдээжийн хэрэг, хэрэв мэргэжлийн бус санал зөрөлдөөн нь мэргэжлийн санал зөрөлдөөн болж хувирвал бид эцсийн дүндээ мэргэжлийн бус маргааныг мэргэжлийн хүмүүсийн таамагласан эх сурвалж эсвэл оч гэж сонирхож магадгүй юм. Нисгэгч, туслах нисгэгч хоёр аль брэндийн кофены талаар ширүүн маргалдаж, улмаар хөөрөх эсэх гэх мэт нислэгийн онцлогтой холбоотой асуудал (шаардлагатай үг!) болж хувирдаг гэж төсөөлөөд үз дээ.

Хоёрдугаарт, мэргэжлийн санал зөрөлдөөний цар хүрээг анхаарч үзэх хэрэгтэй.

Нисгэгч, туслах нисгэгч хоёр эсвэл нисэх талаар бага зэрэг санал зөрөлдөж магадгүй юм. Тэд хоорондоо зөрчилддөггүй бөгөөд зөвхөн хөөрөх эсэх талаар сайн болон сул талуудыг тунгаан бодож байна. Энэ нь бидний энд байнга авч үздэг мэргэжлийн санал зөрөлдөөний хэмжээ эсвэл хэмжээ биш юм. Гол нь мэргэжлийн санал зөрөлдөөн нь түр зуурынх бөгөөд хоёр тал эв найрамдалтай эсвэл ядаж цаг тухайд нь шийдвэр гаргадаг байж болох юм. Ерөнхийдөө мэргэжлийн санал зөрөлдөөний гол сэдэв нь шийдвэрлэх боломжгүй мэт санагдах зүйлүүд байдаг бөгөөд хоёр тал санал зөрөлдөөндөө тууштай хэвээр байна.

Гуравдугаарт, эдгээр удирдамжийг хэрэгжүүлэхийн тулд ихэвчлэн ямар нэг ноцтой зүйл байх ёстой.

Нисэх, нисэхгүй байх нь шуурганы улмаас нислэг эрсдэлд орсон эсвэл онгоц ийм аялалд бүрэн бэлтгэгдээгүй гэж үзвэл үхэл, үхлийн шийдлийн нэг хэлбэр юм. Энэ бол ноцтой бизнес. Мэргэжлийн санал зөрөлдөөн нь үнэ цэнээсээ илүү төвөг учруулж болзошгүй ч бид удирдамжийг нөлөөлөл багатай тохиолдолд хэрэглэж болно.

За, бидний анхаарах зүйл бол:

• Санал зөрөлдөөн нь мэргэжлийн бус зүйлээс илүүтэй голчлон мэргэжлийн чиг баримжаатай байдаг
• Энэхүү санал зөрөлдөөн нь зөвхөн түр зуурынх биш, эсвэл өөр аргаар амархан шийдэгдэхгүй, тогтвортой шинж чанартай байдаг.
• Зөрчилдөөн нь ноцтой үр дагаврыг зөгнөдөг бөгөөд ихэвчлэн үр дүнтэй байдаг
• Намууд хоорондоо зөрчилдөж, дийлдэшгүй мэт

Одоо ийм мэргэжлийн санал зөрөлдөөнийг хэрхэн даван туулах талаар миний санал болгож буй удирдамж, арга барил бүрийг нарийвчлан авч үзье.

Хиймэл оюун ухаан ба нэгдмэл хүмүүс бүх зүйлийг шийддэг (эвтэй эсвэл үгүй)

Би уг жагсаалтыг хиймэл оюун ухаан болон давталт дахь хүн хоёр өөр хоорондоо мэргэжлийн санал зөрөлдөөнийг шийдвэрлэх боломжтой гэсэн шууд боломжоор эхлүүлж байна. Нисгэгч, туслах нисгэгч гэсэн хоёр хүний ​​жишээ ийм нөхцөл байдлыг харуулсан байх шиг байна. Тэд ямар нэгэн байдлаар терминал руу буцаж, өөр өөр замаар явахаар шийджээ. Энэ нь хиймэл оюун ухааны систем болон хүн хоёр талдаа ерөнхийдөө сэтгэл ханамжтай шийдвэрлэх хандлагыг гаргаж чаддаг байж магадгүй бөгөөд ингэснээр асуудал сэтгэл ханамжтай дуусч байна.

Хүн төрөлхтөн хиймэл оюун ухаанаас давамгайлдаг

Хиймэл оюун ухааныг тохируулахдаа бид мэргэжлийн санал зөрөлдөөн гарах үед хүн үргэлж давамгайлах ёстой гэсэн дүрмийг програмчилж болно. Энэ нь тодорхой кодлогдсон өгөгдмөл байх болно. Бид бас ямар нэг байдлаар давж заалдахыг зөвшөөрч магадгүй ч гэсэн байнгын дүрэм нь хүн давамгайлах болно.

AI нь анхдагч байдлаар хүнээс давамгайлдаг

Хиймэл оюун ухааныг бий болгохдоо бид мэргэжлийн санал зөрөлдөөн гарах бүрт хиймэл оюун ухаан нь хүнээс давамгайлах ёстой гэсэн дүрмийг програмчилж болно. Энэ нь тодорхой кодлогдсон анхдагч юм. AI давамгайлах нь байнгын дүрэм байх болно, гэхдээ бид бас ямар нэг хэлбэрээр хүчингүй болгохыг зөвшөөрч магадгүй юм.

Урьдчилан тогтоосон тогтсон нарийвчлал нь анхдагчаар давамгайлдаг

AI-г тохируулахдаа бид хүнтэй холбоотой мэргэжлийн санал зөрөлдөөн гарах бүрт урьдчилан тогтоосон тогтсон шийдлийг давамгайлах болно гэсэн дүрмийг програмчилж болно. Хүн-д-д-хүлэг нь анхдагчаар давамгайлж чадахгүй. AI нь анхдагчаар давамгайлдаггүй. Урьдчилан тодорхойлсон өөр нэг тогтоол бий. Жишээлбэл, хоёр намын аль нь зөв замд орохыг шийдэхэд ашиглагдах зоос шидэж магадгүй юм. Энэ нь дур зоргоороо санагдах нь ойлгомжтой; Иймээс өөр нэг жишээ хандлага бол хоёр талын оруулсан мэдээлэлд үндэслэн утгыг тооцдог тусгай дүрэм хэрэгжиж, тэнцсэн үр дүнд хүрэх явдал юм.

Гуравдагч этгээдийн хүмүүс холбогдсон бөгөөд тэдгээрийн заалт талуудаас давамгайлж байна

Мэргэжлийн санал зөрөлдөөн гарсан тохиолдолд маргааныг шийдвэрлэх шийдвэр гаргахын тулд хүн болох гуравдагч этгээдийг дуудаж, нөхцөл байдалд оруулдаг дүрэм байж болно. AI нь гуравдагч этгээдийн шийдвэр гаргасан бүх зүйлийг хойшлуулахаар програмчлагдсан. Хэрэв ийм нөхцөл байдал үүсвэл тэд ч гэсэн гуравдагч этгээдэд хандах ёстой гэдгийг аль хэдийн гогцоонд байгаа хүн урьдчилан зааж өгсөн. Хажуугаар нь, хэрэв шийдвэр нь гогцоонд байгаа хүний ​​байр суурьтай санал нийлэхгүй бол гуравдагч этгээд ямар ч шийдвэрт нэгдэн ороход гогцоонд байгаа хүн бухимдаж магадгүй гэдгийг та таамаглаж болно.

Гуравдагч этгээдийн хиймэл оюун ухаан нэвтэрсэн бөгөөд түүний заалт талуудаас давамгайлж байна

Мэргэжлийн санал зөрөлдөөн гарсан тохиолдолд өөр AI систем болох гуравдагч этгээдийг дуудаж, санал зөрөлдөөнөө шийдвэрлэх шийдвэр гаргахын тулд тохиргоонд оруулдаг дүрэм байж болно. Анхны хиймэл оюун ухаан нь гуравдагч этгээдийн хиймэл оюун ухаан ямар ч шийдвэр гаргасан түүнийг хойшлуулахаар програмчлагдсан. Хэрэв ийм нөхцөл байдал үүсвэл тэд ч гэсэн гуравдагч этгээдийн хиймэл оюун ухаанд хандах хэрэгтэйг өмнө нь хүн-д-д-дүрэлд орсон хүн зааж өгсөн. Хажуугаар нь, хэрэв шийдвэр нь гогцоонд байгаа хүний ​​байр суурьтай санал нийлэхгүй бол гуравдагч этгээдийн хиймэл оюун ухаан ямар ч шийдвэрт нэгдэхээс санаа зовж магадгүй гэдгийг та таамаглаж болно.

Гуравдагч талын хүн одоо байгаа хүнийг орлуулж, бүх зүйл шинээр өрнөнө

Мэргэжлийн санал зөрөлдсөний дараа гогцоонд байгаа хүнийг гуравдагч этгээдээр сольдог бөгөөд энэ нь цаашид хүн болж хувирдаг. Даалгаврыг гүйцэтгэх хамгийн анхны хүн байсан хүн одоо байгаа ажлын нэг хэсэг гэж үзэхээ больсон. Энэ нь одоо солигдсон хүний ​​хувьд өөрөөр юу болох нь нээлттэй тал юм, гэхдээ бид тэд ажлын даалгаварт байнгын үүрэг гүйцэтгэхээ больсон гэдгийг бид хэлж байна.

Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөнө

Мэргэжлийн санал зөрөлдсөний дараа хиймэл оюун ухаан нь гуравдагч этгээдийн хиймэл оюун ухаанаар солигдсон бөгөөд энэ нь цаашид ажлын даалгаварт ашиглагдах хиймэл оюун ухаан болно. Даалгаврын хувьд анх ашиглаж байсан хиймэл оюун ухаан нь одоо байгаа ажлын нэг хэсэг гэж үзэхээ больсон. Энэ нь одоо солигдсон хиймэл оюун ухаанд юу тохиолдох нь нээлттэй асуудал боловч хиймэл оюун ухаан нь ажлын даалгаварт ямар ч байнгын үүрэг гүйцэтгэхээ больсон гэдгийг бид хэлж байна.

Гуравдагч талын хүн одоо байгаа хиймэл оюун ухааныг орлуулж, бүх зүйл шинээр өрнөж байна (одоо хүнээс хүн рүү)

Мэргэжлийн санал зөрөлдөөний үед хиймэл оюун ухаан нь гуравдагч этгээдээр солигдож, тэр хүн одоо ажлын даалгаварт ашиглагдах хамтран ажиллах тал болно. Даалгаврын хувьд анх ашиглаж байсан хиймэл оюун ухаан нь одоо байгаа ажлын нэг хэсэг гэж үзэхээ больсон. Энэ нь одоо солигдсон хиймэл оюун ухаанд юу тохиолдох нь нээлттэй асуудал боловч хиймэл оюун ухаан нь ажлын даалгаварт ямар ч байнгын үүрэг гүйцэтгэхээ больсон гэдгийг бид хэлж байна. Товчхондоо, энэ нь одоо хоёр талын хүнээс хүнд гүйцэтгэдэг ажил болж хувирав.

Гуравдагч талын хиймэл оюун ухаан нь одоо байгаа хүнийг орлуулж, бүх зүйл шинээр хөгжиж байна (одоо AI-аас AI)

Мэргэжлийн санал зөрөлдөөний үед хүн-дүргээнд нь гуравдагч этгээдийн хиймэл оюун ухаанаар солигдсон бөгөөд энэ хиймэл оюун ухаан нь өмнөх давталт дахь хүний-д цаашид бөглөх болно. Даалгаврыг гүйцэтгэх хамгийн анхны хүн байсан хүн одоо байгаа ажлын нэг хэсэг гэж үзэхээ больсон. Энэ нь одоо солигдсон хүний ​​хувьд өөрөөр юу болох нь нээлттэй тал юм, гэхдээ бид тэд ажлын даалгаварт байнгын үүрэг гүйцэтгэхээ больсон гэдгийг бид хэлж байна. Товчхондоо, энэ нь одоо даалгаврыг гүйцэтгэх хоёр талын AI-to-AI болж хувирав.

Бусад

Мэргэжлийн санал зөрөлдөөнийг даван туулахын тулд өөр хувилбаруудыг зохион бүтээж болох боловч бид энд зарим гол чулууг авч үзсэн.

Тухайн нөхцөл байдалд эдгээр аргуудын аль нь зөв болохыг бид хэрхэн шийдэх вэ?

Ийм сонголт хийхэд олон янзын асуудал гардаг. Технологийн үүднээс авч үзэх зүйл бий. Бизнесийн талаар анхаарах зүйл бий. Хууль эрх зүйн болон ёс суртахууны үүднээс авч үзэх зүйл бий.

Тийм ч учраас хиймэл оюун ухааны ёс зүй ба ёс зүйн AI нь зарим талаараа маш чухал сэдэв юм. AI-ийн ёс зүйн зарчмууд биднийг сонор сэрэмжтэй байхад хүргэдэг. AI технологичид заримдаа технологид, ялангуяа өндөр технологийн оновчлолд санаа зовдог. Тэд нийгмийн томоохон үр дагаврыг авч үзэх албагүй. Хиймэл оюун ухааны ёс зүйн сэтгэлгээтэй байх, үүнийг хиймэл оюун ухааныг хөгжүүлэх, боловсруулахтай салшгүй холбоотой хийх нь хиймэл оюун ухааны ёс зүйг пүүсүүдэд хэрхэн нэвтрүүлж буйг үнэлэх зэрэг (магадгүй гайхмаар эсвэл инээдтэй) хиймэл оюун ухааныг бий болгоход амин чухал юм.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Үнэн хэрэгтээ, хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж, алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна.

Энэхүү чухал хэлэлцүүлгийн яг энэ мөчид та энэ сэдвийг харуулсан зарим жишээг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд бий болсон нь хиймэл оюун ухаан ба хүний ​​​​зөрчилдөөнийг шийдвэрлэх талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин ба хиймэл оюун ухаан-хүний ​​эсрэг санал зөрөлдөөн

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний ярих гэж буй зүйлийн үндэс болох хангалттай олон тооны анхааруулгыг өгнө гэж найдаж байна.

Бүрэн бие даасан тээврийн хэрэгслийн хувьд хүн болон хиймэл оюун ухаан хоёрын хооронд мэргэжлийн зөрчилдөөн гарах магадлал байхгүй байж магадгүй, учир нь юуны түрүүнд хүн байхгүй байж магадгүй юм. Өнөөгийн өөрөө жолоодлоготой машин үйлдвэрлэгчдийн хүсэл эрмэлзэл бол хүний ​​жолоочийг жолоодлогын ажлаас бүрмөсөн зайлуулах явдал юм. Тээврийн хэрэгсэлд хүний ​​хүртээмжтэй жолоодлогын удирдлага ч байхгүй болно. Энэ тохиолдолд хүний ​​жолооч, хэрэв байгаа бол жолоодлогын удирдлага байхгүй тул жолоодлогын ажилд оролцох боломжгүй болно.

Зарим бүрэн бие даасан тээврийн хэрэгслийн хувьд зарим загвар нь хүн жолоодлоготой байх боломжийг олгодог хэвээр байгаа ч хүн жолоодлогын процесст оролцох шаардлагагүй юм. Тиймээс хэрэв хүн хүсвэл жолоо барихад хүн оролцох боломжтой. Ямар ч үед хиймэл оюун ухаан нь жолоодлогын аливаа ажлыг гүйцэтгэхэд хүнээс хамаардаггүй.

Хагас бие даасан тээврийн хэрэгслийн хувьд хүний ​​жолооч, хиймэл оюун ухаан хоёрын гар нийлсэн харилцаа байдаг. Хүний жолооч жолоодлогын удирдлагыг бүрэн гартаа авч, хиймэл оюун ухааныг жолоодлогод оролцохыг үндсэндээ зогсоож чадна. Хэрэв хүний ​​жолооч хиймэл оюун ухааныг жолооны үүрэгт эргүүлэн оруулахыг хүсвэл тэд үүнийг хийж чадна, гэхдээ энэ нь заримдаа хүнийг жолоодлогын удирдлагаас татгалзахад хүргэдэг.

Хагас бие даасан үйл ажиллагааны өөр нэг хэлбэр нь хүний ​​жолооч болон хиймэл оюун ухаантай нэг баг болж хамтран ажиллах явдал юм. Хиймэл оюун ухаан жолоодож, хүн жолоодож байна. Тэд хамтдаа жолоодож байна. Хиймэл оюун ухаан нь хүний ​​хувьд байж магадгүй юм. Хүн хиймэл оюун ухааныг хойшлуулж магадгүй юм.

Зарим үед хиймэл оюун ухааны жолоодлогын систем болон хүний ​​жолооч нар жолоодох даалгаврын талаар "мэргэжлийн санал зөрөлдөөн"-ийн уулзварт хүрч магадгүй юм.

Мэргэжлийн санал зөрөлдөөнтэй харьцах дээр дурдсан зарим дүрмүүдийг хэрэгжүүлэхэд хүндрэлтэй байдгийг харуулахын тулд гуравдагч этгээдийг уг асуудалд оролцуулж, шийдэгдээгүй асуудлыг шийдвэрлэх шийдвэрийг санал болгох жишээг авч үзье.

Автомашин үйлдвэрлэгч эсвэл өөрөө жолоодлоготой технологийн фирм нь алсын удирдлагатай хүний ​​​​операторуудад өөрсдийн флот дахь тээврийн хэрэгслийн жолоодлогын удирдлагад хандах боломжийг олгосон гэж бодъё. Хүний оператор алс холын оффис эсвэл ойролцоо орчинд сууж байна. Компьютерийн системээр дамжуулан тэд камер болон автомат жолоодлоготой машинд ачаалагдсан бусад мэдрэгч төхөөрөмжид нэвтэрч жолоодож буй дүр зургийг харах боломжтой. Тэдний хувьд энэ нь бараг л онлайн видео тоглоом тоглохтой адил боловч бодит амьдралын нөхцөл байдал нь аймшигтай үр дагаварт хүргэж болзошгүй юм.

AI систем болон машин доторх хүний ​​жолооч урт хурдны замаар хагас бие даасан машин жолоодож байна. Гэнэт хиймэл оюун ухаан шуудуу руу чиглүүлэхийг хүсдэг. Хүний жолооч үүнийг хийхийг хүсэхгүй байна. Хоёулаа жолооны хяналтын талаар маргалдаж байна.

Үүнийг хэрхэн шийдвэрлэх вэ?

Хүн ямагт ялдаг гэдгийг бид урьдаас тогтоож болох байсан. Бид үүнийг хийхгүй байхаар шийдсэн гэж бодъё.

Хиймэл оюун ухаан үргэлж ялдаг гэдгийг бид урьдчилан тогтоож болох байсан. Бид үүнийг хийхгүй байхаар шийдсэн гэж бодъё. Ерөнхийдөө бид эдгээр дүрмийн алийг нь ч батлаагүй бөгөөд бид гуравдагч этгээдэд хөндлөнгөөс оролцож, аливаа бодит шинж чанартай мэргэжлийн санал зөрөлдөөнийг шийдвэрлэх боломжийг олгохоор шийдсэн.

Энэ тохиолдолд хиймэл оюун ухаан болон жолоодлогын хүний ​​жолооч жолооны удирдлагын төлөө тэмцэж байна. Үүнийг алслагдсан хүний ​​оператор руу (манай гуравдагч талын хүн) дамжуулсан гэж үзье. Алсын удирдлагатай хүний ​​оператор юу болж байгааг судалж үзээд хиймэл оюун ухааны хийх гэж байсан зүйлээс зайлсхийсэн бололтой шуудуунаас холдохоор шийдэв. Үүний зэрэгцээ алслагдсан хүний ​​​​оператор эсрэг талын хөдөлгөөнийг удирдаж байна гэж бодъё, магадгүй хиймэл оюун ухаан ч, машин доторх хүний ​​жолооч ч үүнийг хийхийг хүсээгүй байх.

Гол нь энэ дүрэм хэрэгжсэн арга нь гуравдагч этгээдийн хүний ​​оператор хиймэл оюун ухаан болон давталт дахь хүний ​​аль алиныг нь бүрмөсөн дарах боломжтой болсон явдал юм. Энэ нь сайн үр дүнд хүрэх эсэх нь баталгаатай биш юм.

Би энэ жишээг ашиглан эдгээр асуудлын талаархи нэмэлт ойлголтыг тодруулах болно.

Эдгээр дүрмийн аль нэгийг хэрэгжүүлснээр шийдвэрлэсэн санал зөрөлдөөний үр дүн нь заавал сайн үр дүнд хүрнэ гэсэн увайгүй таамаглал дэвшүүлж болохгүй. Тийм биш байж магадгүй. Сонгох боломжтой, үргэлж зөв гэсэн дүрэм журам байдаггүй.

Дараа нь эдгээр дүрмийн зарим нь хэрэгжих боломжгүй байж магадгүй юм.

Хиймэл оюун ухаан болон хүний ​​жолооч хоёр жолооны удирдлаган дээр маргалдаж байхад алсын хүний ​​оператор хөндлөнгөөс оролцож буй жишээг авч үзье. Алслагдсан хүний ​​оператор юу болж байгааг ойлгоход олон секунд зарцуулагдаж магадгүй. Тэр үед машин шуудуунд унасан эсвэл өөр сөрөг үр дагавартай байж магадгүй юм. Түүнчлэн, тээврийн хэрэгслийн байршил нь цахим сүлжээний холболтгүй газар байх гэх мэт алсын зайнаас нэвтрэхийг хориглодог гэж бодъё. Эсвэл тухайн үед тээврийн хэрэгслийн сүлжээний функцууд ажиллахгүй байж магадгүй юм.

Таны харж байгаагаар дүрэм нь цаасан дээр бүдүүлэг мэт санагдаж болох ч дүрмийг бодитоор хэрэгжүүлэх нь маш хэцүү эсвэл боломжийн арга байж болох юм. Автономит болон өөрөө жолооддог автомашины алсын зайн операторын талаарх миний шүүмжлэлийг эндээс үзнэ үү холбоос энд байна.

Би удахгүй хийх дүн шинжилгээндээ илүү гүнзгийрүүлэн авч үзэх өөр нэг холбоотой сэдвийг товчхон ярихыг хүсч байна.

Автономит болон хагас бие даасан автомат жолоодлоготой автомашины талаар санаа зовоож буй асуудлын нэг бол энэ юм. Халуун төмсний синдром.

Энэ бол хэлэлцээ.

AI жолоодлогын систем, хүн хоёр хамтран жолоодож байна. Хүнд хэцүү нөхцөл байдал үүсдэг. AI нь хүнд хэцүү мөч тохиолдоход жолооны даалгавраа орхиж, бүх зүйлийг хүнд шилжүүлэхээр програмчлагдсан. Энэ нь мэргэжлийн аливаа санал зөрөлдөөндөө анхдагч "ялагч" нь хүн байх ёстой гэсэн дүрмийг баримталж байгаа болохоор "ухаалаг" мэт санагдаж магадгүй юм.

Гэхдээ хиймэл оюун ухаан сургуулиа орхих нь илүү хорон санаатай эсвэл далд зорилготой байж магадгүй юм. Автомашин үйлдвэрлэгч эсвэл өөрөө жолооддог технологийн фирм нь автомашины осол гарах үед хиймэл оюун ухаанаа "буруутай тал" гэж үзэхийг хүсэхгүй байгаа байж магадгүй юм. Ингэж дарагдуулахгүйн тулд хиймэл оюун ухаан гэнэт удирдлагаа хүнд шилжүүлдэг. Voila, хүн одоо тээврийн хэрэгслийг бүрэн хариуцах ёстой.

Хамгийн гол нь хиймэл оюун ухаан осол гарахаас өмнө нэг секунд үлдлээ гэж бодъё.

Хүнд үнэхээр сүйрлээс урьдчилан сэргийлэх боломж байгаа болов уу?

Үгүй байх магадлалтай.

AI хэдхэн миллисекунд эсвэл наносекунд үлдлээ гэж бодъё. Хүний ослоос урьдчилан сэргийлэхийн тулд юу ч хийх боломж бараг байхгүй гэж би хэлж зүрхлэх болно.

Автомашин үйлдвэрлэгч эсвэл өөрөө жолоодлоготой автомашины фирмийн үүднээс авч үзвэл тэд ийм машин осолдох үед гар нь цэвэрхэн мэт ажиллахыг оролдож болно. Машиныг хүн жолоодож явсан. AI машин жолоодоогүй. Цорын ганц "логик" дүгнэлт нь хүн буруутай байх ёстой бөгөөд хиймэл оюун ухаан нь бүрэн гэм буруугүй байх ёстой.

Шавар шүү дээ.

Би энэ талаар дараагийн буланд илүү дэлгэрэнгүй ярих болно.

Дүгнэлт

Мэргэжлийн санал зөрөлдөөн гарах болно.

Даалгаврыг хоёр тал хамтран гүйцэтгэж, мэргэжлийн хувьд хэзээ ч санал зөрөлдөөн гарахгүй нарийн төвөгтэй ажлыг төсөөлөхөд хэцүү байдаг. Энэ бол уран зөгнөлийн орон юм уу, ядаж л маш ховор зүйл юм шиг санагддаг.

Өнөөдөр бидэнд мэргэжлийн санал зөрөлдөөн олон, олон тохиолдлууд байдаг бөгөөд үүнийг өдөр бүр тайван замаар, ухаалаг байдлаар шийдвэрлэдэг. Үнэндээ бид мэргэжлийн санал зөрөлдөөнийг бий болгох, ил гаргахын тулд санаатайгаар нөхцөл байдлыг бий болгодог. Энэ нь заримдаа хоёр толгой нэгээс илүү байдаг гэсэн алдартай мэргэн ухааныг харуулж байна гэж та маргаж магадгүй юм.

Хиймэл оюун ухаан улам бүр түгээмэл болохын хэрээр бид хиймэл оюунаас хүнд эсвэл хүнээс хиймэл оюун ухаан руу чиглэсэн хоёр талын үүрэг гүйцэтгэгчид олноор байх болно. мэргэжлийн санал зөрөлдөөн энэ нь тохиолдох болно. Залхуу арга бол үргэлж хүнийг дагах явдал юм. Энэ нь хамгийн тохиромжтой арга биш байж магадгүй юм. AI нь илүү сайн сонголт байж магадгүй юм. Эсвэл дээр дурьдсан бусад дүрмүүдийн аль нэг нь илүү найдвартай арга байж болох юм.

Бид бүгд санал нийлэхгүй байх ёстой гэсэн мэргэн мөрийг байнга давтдаг, гэхдээ утсаар ярихад заримдаа санал зөрөлдөөнийг хоёрдмол утгагүй шийдвэрлэх шаардлагатай болдог, эс тэгвээс асуудал нь тоолж баршгүй гамшигт хүргэх болно. Бид зүгээр л санал зөрөлдөөнийг усан үзмийн мод дээр буулгаж болохгүй. Цаг хугацаа чухал байж, амь нас эрсдэлд орж болзошгүй.

Хиймэл оюун ухаан болон гогцоонд байгаа хүн хоорондоо нүдээ хардаггүй, байт-байтыг харахгүй байх зэрэг санал зөрөлдөөнийг шийдвэрлэх арга замуудын хувьд тодорхой шаардлага байдаг.

Та энэ бүрэн зөвшилцөлтэй санал нийлэхгүй гэдэгт би итгэж байна.