AI-ийн ёс зүй ба хиймэл оюун ухаанд өөрийгөө танин мэдэх эрэл

Та өөрийгөө мэддэг үү?

Чамайг тийм гэдэгт итгэдэг гэдэгт би итгэлтэй байна.

Хамгийн гол нь бидний цөөхөн хүн өөрийгөө мэддэг байх шиг байна. Өөрийгөө танин мэдэхүйн цар хүрээ, түвшин байдаг бөгөөд бид бүгдээрээ өөрсдийгөө хэр зэрэг мэддэг гэдгээрээ өөр өөр байдаг. Та өөрийгөө бүрэн дүүрэн ухамсарлаж, бага зэрэг мэддэг гэж бодож магадгүй юм. Та өөрийгөө маш сайн мэддэг байж магадгүй бөгөөд энэ нь таны сэтгэцийн байдал гэдгийг ойлгох болно.

Үүний зэрэгцээ, спектрийн хамгийн дээд хэсэгт та өөрийгөө бүрэн ухамсарлаж, үнэнийг хэлэхэд тэдэнтэй адил өөрийгөө мэддэг гэдэгт итгэж магадгүй юм. Танд сайн.

Энэ тухай ярих юм бол өөрийгөө хэт ухамсарлах нь ямар ашигтай вэ?

-Д нийтлэгдсэн судалгааны дагуу Харвардын Бизнесийн тойм (HBR) Таша Еурихийн бичсэнээр, та илүү сайн шийдвэр гаргах чадвартай, шийдвэр гаргахдаа илүү итгэлтэй, харилцааны чадавхидаа илүү хүчтэй, ерөнхийдөө илүү үр дүнтэй байдаг ("Өөрийгөө танин мэдэхүй гэж юу вэ? Үүнийг бясалгах).” Урамшууллын хүчин зүйл бол өөрийгөө ухамсарлахуйц хүчтэй хүмүүс хууран мэхлэх, хулгайлах, худал хэлэх хандлага багатай байдаг.Тийм утгаараа луйварчин, луйварчин байхаас зайлсхийх хоёр талтай. илүү сайн хүн болж, элэг нэгтнээ чимэх.

Өөрийгөө танин мэдэхүйн тухай энэ бүх яриа нь өөрийгөө танин мэдэх гэсэн хэллэг яг юуг илэрхийлдэг вэ гэсэн тодорхой асуултыг төрүүлдэг. Та цогцолборын талаархи олон янзын тодорхойлолт, тайлбарыг хялбархан олох боломжтой бөгөөд бид өөрийгөө ухамсарлахыг шаарддаг бүдүүлэг бүтэц гэж хэлэх ёстой. Зарим нь өөрийгөө танин мэдэх нь өөрийгөө хянах, юу хийж байгаагаа мэдэхээс бүрддэг гэж санал болгосноор асуудлыг хялбарчлах болно. Та өөрийн бодол санаа, үйлдлүүдийг маш сайн мэддэг.

Өөрийгөө ухамсарлахгүй байх үед хүн юу хийж байгаагаа, яагаад тэгж байгаагаа ойлгохгүй байхаас гадна бусад хүмүүсийн тэдний талаар юу хэлэхийг ч мэдэхгүй байх магадлалтай. Та ийм хүмүүстэй уулзаж байсан гэдэгт би итгэлтэй байна.

Зарим хүмүүс энэ дэлхий дээр юу хийж байгаагаа ч мэдэхгүй алхаж байгаа мэт харагддаг ба бусад хүмүүсийн тэдний талаар юу ярьж байгааг ч мэдэхгүй. Та тэднийг нарийн ширхэгтэй эвдрэх боломжтой барааны дэлгүүрт толгойгоо унадаг бух шиг гэж маргаж магадгүй гэж бодож байна. Бух юу хийж байгаагаа мэддэггүй, бусад нь үл ойлгогдох амьтныг бие махбодоор нь маневрлах юм уу хорьж оролдохгүй л бол бусдын үзэл бодлыг үл тоомсорлодог гэдэгт бид итгэдэг.

Өөрийгөө ухамсарлах нь зарим талаараа рекурсив байж болно гэж хэлдэг.

Энэ рекурсийг харуулахын тулд би жишээ татъя. Та ухаалаг гар утсан дээрээ муурны видео бичлэгийг үзэж байна (хүн бүр үүнийг хийдэг бололтой). Зарим хүмүүст эдгээр хайрт муурны гайхалтай сэтгэл хөдөлгөм зан үйлээс өөр ямар ч илэрхий бодол байдаггүй. Энэ хооронд өөрийгөө бага зэрэг ухамсарласан хүн бүр муурны бичлэг үзэж байгаагаа мэддэг. Тэд мөн тэдний эргэн тойронд байгаа хүмүүс муурны бичлэг үзэж байгааг анзаарч байгааг мэдэж байж магадгүй.

Та өөрийгөө ухамсарлаж, тодорхой нэг үндсэн үйл ажиллагаанд ууссан хэвээр байх боломжтой гэдгийг анхаарна уу. Энэ тохиолдолд гол үйл ажиллагаа бол муурны видеог үзэх явдал юм. Хоёрдугаарт, үүнтэй зэрэгцэн та муурны видеог үзэж байна гэсэн бодол төрж болно. Та мөн муурны тухай хөгжилтэй видеог үзэж байхдаа бусад хүмүүс таныг ажиглаж байна гэсэн бодлыг өөртөө авч явах боломжтой. Та муурны бичлэг үзэж байгаа (эсвэл дөнгөж сая) гэж тусад нь бодохын тулд муурны бичлэг үзэхээ болих гэх мэт нэг үйлдлийг заавал зогсоох шаардлагагүй. Эдгээр бодлууд бие биетэйгээ зэрэгцэн гарч ирж магадгүй юм.

Заримдаа бидний өөрийгөө танин мэдэх нь биднийг үндсэн сэтгэцийн үйл ажиллагаанаас холдуулж эсвэл ядаж тасалдуулж болзошгүй юм. Магадгүй муурны видеог үзэж байхдаа зөвхөн видеон дээр анхаарлаа төвлөрүүлэхийн тулд таны оюун ухаан хэсэгчлэн гацаж магадгүй юм. Та дараа нь өөрийн үзсэн харсан ч оюун санааны хувьд бүрэн ойлгох чадваргүй болсон хэсгийг дахин үзэхийн тулд видеог эргүүлэх сонголтыг хийнэ үү. Өөрийгөө ухамсарлах нь таны оюуны үндсэн үйл ажиллагааг алдагдуулдаг.

За, бид одоо рекурсив талууд үүсэхэд бэлэн байна.

Чи бэлэн үү?

Та муурны видео үзэж байна. Таны өөрийгөө танин мэдэж байгаа байдал нь таныг муурны бичлэг үзэж байгаа бөгөөд бусад хүмүүс таныг видеог үзэж байх үед таныг харж байгаа гэдгийг илтгэж байна. Энэ бол статус кво.

Дараа нь та оюун санааны нэмэлт үсрэлт хийх болно. Та өөрийгөө танин мэдэхүйн талаар бодож эхэлдэг. Та өөрийгөө танин мэдэхүйд оролцож байгаагаа өөрөө ухамсарлаж байна. Энэ нь дараах байдалтай байна: Би муурны видеог үзэх талаар бодох талаар хэтэрхий их бодож байна уу? Та өөрөөсөө цөхрөнгөө баран асууж байна уу? Энэ бол өөрийгөө танин мэдэх өөр нэг давхарга юм. Өөрийгөө танин мэдэхүйн зэрэглэл нь бусад өөрийгөө танин мэдэхүйн дээгүүр байр суурь эзэлдэг.

Доод талдаа яст мэлхий гэж эртний үг бий. Өөрийгөө танин мэдэх үзэгдлийн хувьд та дараахь байж болно.

• Өөрийгөө мэддэггүй
• Өөрийгөө ухамсарлах
• Өөрийгөө ухамсарлаж байгаагаа өөрөө мэддэг
• Өөрийгөө ухамсарлах нь таны өөрийгөө ухамсарлах явдал юм
• Ad Infinitum (өөрөөр хэлбэл, гэх мэт)

Өөрийгөө танин мэдэх хоёр үндсэн ангилал байдаг юм шиг байна гэж би түрүүн онцлон хэлж байсныг та ойлгосон байх. Нэг онол нь бид дотоод төлөв байдалд анхаарлаа төвлөрүүлдэг нэг төрлийн дотоод өөрийгөө танин мэдэхүйтэй, мөн биднийг харж буй эргэн тойрон дахь хүмүүсийн бидний талаарх ойлголтыг хэмжихэд тусалдаг гадаад өөрийгөө танин мэдэхүйтэй гэж үздэг.

HBR-ийн нийтлэлийн дагуу өөрийгөө танин мэдэхүйн хоёр төрлийн онолын товч тайлбарыг энд оруулав: "Бидний нэрлэсэн эхнийх нь. дотоод өөрийгөө танин мэдэх, бид өөрсдийн үнэт зүйлс, хүсэл тэмүүлэл, хүсэл тэмүүлэл, хүрээлэн буй орчинтойгоо нийцэж байгаа байдал, хариу үйлдэл (бодол санаа, мэдрэмж, зан байдал, давуу болон сул талуудыг оролцуулан) болон бусдад үзүүлэх нөлөөг хэрхэн тодорхой харж байгааг илэрхийлдэг." Үүний зэрэгцээ нөгөө нь: "Хоёр дахь ангилал, гадаад өөрийгөө танин мэдэх, дээр дурдсан хүчин зүйлсийн үүднээс бусад хүмүүс биднийг хэрхэн харж байгааг ойлгохыг хэлнэ. Бидний судалгаанаас харахад бусад хүмүүс өөрийг нь хэрхэн хардагийг мэддэг хүмүүс бусдын өнцгөөс харж, өрөвдөх сэтгэлийг илүүтэй харуулдаг.”

Өөрийгөө дотоод болон гадаад танин мэдэхүй нь өндөрөөс доод хооронд хэлбэлздэг гэдгийг нотлох замаар хоёр-хоёр матриц эсвэл дөрвөн квадратыг гаргаж авах боломжтой бөгөөд та хоёр ангиллыг бие биенийхээ эсрэг хослуулж болно. HBR-ийн судалгаагаар таныг өөрийгөө танин мэдэх эдгээр дөрвөн архетипийн нэг гэж хэлсэн болохыг харуулж байна.

• Интроспектор: Гадны өөрийгөө танин мэдэх чадвар бага + дотоод өөрийгөө ухамсарлах чадвар өндөр
• Хайгч: Гадаад өөрийгөө ухамсарлах чадвар бага + дотоод өөрийгөө ухамсарлах чадвар бага
• Тааламжлагч: Гадаад өөрийгөө танин мэдэх өндөр + дотоод өөрийгөө ухамсарлах чадвар бага
• Мэддэг: Гадаад өөрийгөө танин мэдэх өндөр + дотоод өөрийгөө ухамсарлах өндөр

Оргил нь гаднаас өөрийгөө танин мэдэхийн дээд шатанд байх, мөн дотооддоо өөрийгөө танин мэдэхүйн дээд шатанд байхаас бүрддэг "Мэдэгдэж байгаа" архетип байх болно. Тодруулж хэлбэл, та энэ бахархалтай байрлалд заавал байнгын байдлаар хүрч чаддаггүй. Өөрийгөө танин мэдэх дотоод болон гадаад ертөнцийн аль алиных нь дунд та өндөр, доод хооронд нааш цааш гулсаж болно. Энэ нь өдрийн цаг, таны байгаа нөхцөл байдал болон бусад чухал хүчин зүйлээс шалтгаалж болно.

Одоо бид өөрийгөө танин мэдэхүйн зарим үндсэн элементүүдийг найрсаг байдлаар авч үзсэн тул үүнийг ёс зүйн зан үйлийн сэдэвтэй холбохыг хичээж болно.

Өөрийгөө ухамсарлах тухай ердийн мэдэгдэл бол та өөрийгөө ухамсарлах үедээ илүү өндөр байх магадлалтай гэсэн үг юм. Энэ нь дээр дурдсанчлан та хулгай хийх, хууран мэхлэх, худал хэлэх зэрэг ёс суртахууны сөрөг үйлдлүүдэд бага өртөмтгий гэсэн үг юм. Энэ хандлагын үндэслэл нь таны өөрийгөө танин мэдэхүйн идэвхтэй байдал нь таны зан авир нь тааламжгүй эсвэл ёс зүйгүй гэдгийг ойлгоход хүргэдэг. Ёс зүйгүй шаварлаг усанд орохдоо өөрийгөө бариад зогсохгүй буцаад хуурай газар руу (ёс суртахууны нутаг дэвсгэрийн ариун байдал) чиглэх хандлагатай байдаг.

Таны өөрийгөө ухамсарлах чадвар нь өөрийгөө хянах чадварт тусална.

Өөрийгөө ухамсарлах чадвар бага эсвэл огт байхгүй үед ялгаатай байх магадлалтай бөгөөд энэ нь хэн нэгэн нь ёс зүйгүй зан үйлд автсанаа үл тоомсорлож байгааг харуулж байна. Ийм мэдлэггүй хүн сөрөг үйл ажиллагаа явуулж байгаагаа ойлгохгүй байж магадгүй гэж та маргаж болно. Хагардаг барааны дэлгүүрийн бухтай адил ямар нэг зүйл тэдний анхаарлыг татах хүртэл өөрсдийгөө зохицуулах боломжгүй юм.

Дашрамд хэлэхэд хүн бүр үүнийг худалдаж авдаггүй. Өөрийгөө ухамсарлах нь ёс суртахуунгүй байхтай адил ёс зүйгүй байдалд шууд хэрэглэгдэж болно гэж зарим хүмүүс маргах болно. Жишээлбэл, хорон санаат хүн өөрийгөө бүрэн ухамсарлаж, буруу зүйл хийж байгаадаа баяртай байдаг. Тэдний өөрийгөө ухамсарлах чадвар нь тэднийг улам бүр том, том бусармаг үйлдлүүд рүү илүү хатуу чиглүүлдэг.

Үүн дээр шууд харагдахаас илүү үүлэрхэг байдал бий. Хэн нэгэн өөрийгөө маш сайн мэддэг ч тухайн нийгэм, соёлын ёс зүйн хэм хэмжээг мэддэггүй гэж бодъё. Ийм байдлаар тэд өөрсдийгөө ухамсарладаг гэсэн баримтыг үл харгалзан ёс зүйн удирдамжгүй байдаг. Эсвэл, хэрэв та хүсвэл, тэр хүн ёс зүйн зарчмуудыг мэддэг бөгөөд тэдгээр нь түүнд хамааралтай гэдэгт итгэдэггүй байж магадгүй юм. Тэд өөрсдийгөө өвөрмөц эсвэл уламжлалт ёс зүйн сэтгэлгээний хязгаараас гадуур гэж үздэг.

Бөөрөнхийлж, эргэлдэж байна.

Өөрийгөө ухамсарлах нь ёс зүйд чиглэсэн хоёр талдаа иртэй сэлэм гэж тайлбарлаж болно гэж зарим хүмүүс шаргуу онцолдог.

Одоохондоо өөрийгөө танин мэдэх, ёс суртахууны зан үйл рүү чиглүүлэх эсвэл түлхэхээс бүрдсэн аз жаргалтай царайтай хувилбарыг авч үзье. Бусад бүх зүйл тэнцүү байх тусам бид өөрийгөө ухамсарлах тусам та ёс суртахууны хувьд илүү бөхийх болно гэсэн бүдүүлэг таамаглал дэвшүүлэх болно. Үүнийг хүсэх нь тааламжтай бөгөөд урам зоригтой юм шиг санагддаг.

Араагаа сольж, хиймэл оюун ухаан (AI)-г зурагт оруулцгаая.

Бид энэхүү хэлэлцүүлгийн үеэр болж буй бүх асуудлыг AI-ийн ёс зүй гэж нэрлэдэг Ёс суртахууны AI-ийн хөгжиж буй хүрээтэй холбох мөчид байна. Хиймэл оюун ухааны ёс зүйн талаарх миний үргэлжилсэн бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Ёс суртахууны хиймэл оюун ухаан гэдэг ойлголт нь хиймэл оюун ухаан гарч ирэхтэй зэрэгцэн ёс зүй ба ёс зүйн зан үйлийн салбарыг хооронд нь уялдуулахыг шаарддаг. Та тэгш бус байдал, янз бүрийн өрөөсгөл ойлголтоор дүүрэн хиймэл оюун ухааны талаар түгшүүр төрүүлсэн гарчигуудыг харсан нь лавтай. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних систем нь үндсэндээ Machine Learning (ML) болон Deep Learning (DL) хэрэгслүүдийг хэрхэн сургаж, ажиллуулснаас үүдэн арьс өнгө, хүйсээр ялгаварлан гадуурхах шинжтэй байж болзошгүй гэсэн болгоомжлол байдаг (миний шинжилгээг үзнэ үү). цагт энэ линкийг эндээс авна уу).

Үе рүү гүйлгээг зогсоох эсвэл ядаж багасгахыг хичээ AI For Bad, санамсаргүй байдлаар эсвэл заримдаа санаатайгаар муу үйлдэл хийдэг хиймэл оюун ухааны системүүдээс бүрдэх тул хиймэл оюун ухааныг хөгжүүлэх, ашиглахад ёс зүйн зарчмуудыг хэрэгжүүлэх нь сүүлийн үед зайлшгүй шаардлагатай болсон. Хамгийн гол зорилго нь хиймэл оюун ухаан хөгжүүлэгчид, мөн хиймэл оюун ухааныг бүтээдэг эсвэл хөгжүүлдэг компаниуд болон хиймэл оюун ухааны хэрэглээнээс хамааралтай компаниудад ёс зүйн удирдамж өгөх явдал юм. Ёс суртахууны хиймэл оюун ухааны зарчмуудыг боловсруулж, нэвтрүүлж буйн жишээ болгон миний сурвалжлагыг эндээс үзнэ үү холбоос энд байна.

Эдгээр гурван чухал асуултыг тунгаан бодох мөчийг өг:

• Бид хиймэл оюун ухааны хөгжүүлэгчдэд Ёс зүйн AI зарчмуудыг хүлээн зөвшөөрч, эдгээр удирдамжийг бодитоор хэрэгжүүлэхэд хүргэж чадах уу?
• Бид хиймэл оюун ухаан хийдэг эсвэл хээрийн технологид ажилладаг фирмүүдэд үүнтэй адил зүйлийг хийлгэж чадах уу?
• Бид хиймэл оюун ухаан ашигладаг хүмүүсийг Ёс суртахууны AI-ийн тал дээр ижил төстэй мэдлэгтэй болгож чадах уу?

Үүнийг би ичгүүргүй хэлье, энэ бол өндөр тушаал юм.

Хиймэл оюун ухааныг бүтээх сэтгэл хөдөлгөм байдал нь хиймэл оюун ухааны ёс зүйд анхаарал хандуулах аливаа санаа бодлыг даван туулж чадна. Зөвхөн сэтгэл хөдлөм төдийгүй мөнгө олох нь энэ тэгшитгэлийн салшгүй хэсэг юм. Хиймэл оюун ухааны салбарт ажилладаг зарим хүмүүс хиймэл оюун ухааны системээ гаргасны дараа Ёс зүйн хиймэл оюун ухааны “зүйл”-тэй харьцах боломжтой болно гэж хэлэхэд та гайхах байх. Энэ бол хурдан бүтэлгүйтэж, үүнийг зөв хийх хүртлээ байнга бүтэлгүйтдэг (зөв болно гэж найдаж байна) техникийн ердийн тарни юм.

Мэдээжийн хэрэг, ёс зүйн хувьд эргэлзээтэй хиймэл оюун ухааныг олон нийтэд шахаж байгаа хүмүүс морийг саравчнаас гаргаж байна. Тэдний тунхагласан сунгасан санаа нь AI For Bad Энэ нь өдөр тутмын хэрэглээ болсоны дараа засах болно, учир нь морь аль хэдийн дур зоргоороо давхиж байгаа тул хоцрогдсон байдаг. Хор хөнөөл учруулж болно. Мөн хиймэл оюун ухааныг ашиглаж байх үед юу ч засахгүй, тохируулахгүй байх магадлал нэмэгддэг. Байнгын шалтаг бол тэр үед хиймэл оюун ухаантай эргэлзэх нь аль хэдийн ёс зүйгүй алгоритмын шийдвэр гаргалт (ADM) бүрмөсөн алга болж, түүнийг улам дордуулж болзошгүй юм.

Хиймэл оюун ухааныг бүтээж, AI-г хөгжүүлж, хиймэл оюун ухаан ашиглаж байгаа хүмүүсийн оюун санаанд Ёс суртахууны хиймэл оюун ухаан нь тод гэрэлтэж, чиглүүлэгч гэрэл болохын тулд юу хийж чадах вэ?

Хариулт: Өөрийгөө ухамсарлах.

Тийм ээ, хэрвээ хүмүүс хиймэл оюун ухаанаа хэрхэн ашиглаж, харьцаж байгаагаа илүү сайн мэддэг байсан бол энэ нь тэдний ёс суртахууны хиймэл оюун ухааныг жишиг болгох хүсэл эрмэлзлийг нэмэгдүүлж магадгүй гэсэн ойлголт юм. AI хөгжүүлэгчид болон AI системтэй холбоотой компаниудын талаар ижил зүйлийг хэлж болно. Хэрэв тэд юу хийж байгаагаа илүү сайн мэддэг байсан бол хиймэл оюун ухааны ёс зүйг илүү сайн баримтлах байсан байх.

Өмнө дурьдсан логикийн нэг хэсэг нь өөрийгөө ухамсарлах нь ёс суртахууны хувьд илүү сайн хүн байх, мөн ёс зүйн хувьд муу хүн байхаас зайлсхийх хандлагатай байдаг. Хэрэв бид энэ байр сууриа үргэлжлүүлж чадвал өөрийгөө ухамсарлах хандлагатай байгаа хиймэл оюун ухаан хөгжүүлэгчид ёс зүйн зан үйлд илүү дуртай байх тул ёс зүйн хувьд зөв хиймэл оюун ухаан үйлдвэрлэх хандлагатай болно гэсэн үг юм.

Энэ гүүр таны хувьд хэтэрхий хол байна уу?

Зарим нь шууд бус байдал нь арай их гэж хэлэх байх. Өөрийгөө ухамсарлах, ёс суртахууны хувьд ариун журамтай байх, хиймэл оюун ухаанд ёс суртахууны зарчмуудыг хэрэгжүүлэх хоёрын хоорондох асар их хэлхээ холбоог залгихад хэцүү байж магадгүй юм. Эсрэг аргумент нь оролдоод үзэхэд гэмтээхгүй байх явдал юм.

Скептикүүд хиймэл оюун ухаан хөгжүүлэгч өөрийгөө ухамсарлаж, ёс суртахууны хувьд илүү сэтгэлгээтэй байж магадгүй гэж хэлэх байсан ч ёс зүйн хиймэл оюун ухааны ёс суртахууны хэвшилд тэр оюун санааны хуарангаа хэрэгжүүлэх гэж яарах албагүй. Энэ асуултын хариулт нь хэрэв бид Ёс суртахууны AI-ийн асуудлыг олон нийтэд сурталчилж, сурталчлах юм бол бусад тохиолдолд сул мэт санагдах холболт нь хиймэл оюун ухааныг бүтээхэд илүү тодорхой, хүлээгдэж буй зүйл болж, магадгүй стандарт арга зам болох болно.

Би одоо энэ домогт нэмэлт өөрчлөлт оруулах гэж байна. Энэ эргэлт таны толгойг эргүүлж магадгүй юм. Та сайн сууж, миний хэлэх гэж байгаа зүйлд бэлтгэгдсэн эсэхээ шалгаарай.

Зарим хүмүүс бид Ёс суртахууны хиймэл оюун ухааныг хиймэл оюун ухаанд шууд бий болгох ёстой гэж онцолж байна.

Та энэ мэдэгдэлд дургүй байж магадгүй юм. Үүнийг задлаад үзье.

Програмист хүн хиймэл оюун ухааны системийг бий болгож, хиймэл оюун ухаан нь өрөөсгөл ойлголт, тэгш бус байдлыг бий болгохоос урьдчилан сэргийлэхийн тулд өөрийн програмчлалын ухамсартайгаар үүнийг хийж болно. Хөгжүүлэгч нь зүгээр л програмчлалын ажилд хагалах бус, тэдний хэрэгжүүлж буй арга нь хиймэл оюун ухаанд сөрөг элементүүд байхгүй болоход хүргэх эсэхийг асуухын тулд мөрөн дээгүүрээ харж байна.

Гайхалтай нь, бидэнд өөрийгөө хангалттай ухамсарласан, ёс суртахууны зан үйлийг баримтлахыг эрмэлздэг, хиймэл оюун ухааны системийг бүтээхдээ ёс зүйн зарчмуудыг тусгасан гэрэл гэгээг олж харсан хиймэл оюун ухаан хөгжүүлэгчтэй болсон.

Ёс суртахууны AI-д ялалт байгуул!

Бүх зүйл сайн, гэхдээ дараа нь тохиолдож болох зүйл энд байна. Хиймэл оюун ухааныг өдөр тутмын хэрэглээнд оруулдаг. AI-ийн нэг хэсэг нь шууд "суралцах" боломжтой бүрэлдэхүүн хэсгийг агуулдаг. Энэ нь хиймэл оюун ухаан нь шинэ өгөгдөл болон анхны програмчлалын бусад тал дээр үндэслэн өөрийгөө тохируулах боломжтой гэсэн үг юм. Дашрамд хэлэхэд энэ нь хиймэл оюун ухаантай гэсэн үг биш юм. Бидэнд мэдрэмжтэй хиймэл оюун ухаан байхгүй. Бид хийдэг гэсэн тэнэг гарчигнуудыг үл тоомсорло. Бид ухаалаг хиймэл оюун ухаантай болох эсэхийг хэн ч хэлж чадахгүй бөгөөд хэзээ нэгэн цагт ийм зүйл тохиолдохыг хэн ч таамаглаж чадахгүй.

Бидний үлгэрт буцаж ирэхэд хиймэл оюун ухаан нь ажиллаж байх хугацаандаа өөрийгөө сайжруулахын тулд зориудаар зохион бүтээгдсэн. Маш хэрэгтэй ойлголт. Програмистууд байнга сайжруулалт хийхээс илүүтэйгээр хиймэл оюун ухааны хөтөлбөрийг өөрөө хийх боломжийг олгодог (хөөх, энэ нь өөрөө ажилгүй болж байна уу?).

AI инч инчээр өөрийгөө тохируулах явцад янз бүрийн бүдүүлэг тэгш бус байдал, өрөөсгөл ойлголтууд өөрийн өөрчлөлтийн үйлдлээр AI системд нэвтэрч байна. Программист анхнаасаа эдгээр нарийн ширийн зүйлийг орхигдуулдаг байсан бол одоо хиймэл оюун ухаан шууд тохируулагдсаны улмаас тэдгээрийг боловсруулж байна. Харамсалтай нь энэ нь хөшигний ард ийм нарийн байдлаар тохиолдож болох тул хэн ч илүү ухаалаг байдаггүй. Анхны бүрэн туршилтын дараа хиймэл оюун ухаанд ногоон гэрэл асааж байсан хүмүүс одоо хиймэл оюун ухаан муудсан зам руу орсныг мэдэхгүй байна. AI For Bad.

Энэхүү хүсээгүй үзэгдлээс урьдчилан сэргийлэх эсвэл ядаж түүнийг барих нэг арга бол хиймэл оюун ухаанд нэг төрлийн Ёс суртахууны AI давхар шалгагчийг бий болгох явдал юм. AI доторх бүрэлдэхүүн хэсэг нь хиймэл оюун ухааны зан үйлийг ажиглаж, ёс зүйгүй ADM гарч ирж байгаа эсэхийг илрүүлэх программчлагдсан. Хэрэв тийм бол уг бүрэлдэхүүн хэсэг нь хиймэл оюун ухааны хөгжүүлэгчдэд анхааруулга илгээх эсвэл AI системийг ажиллуулж буй пүүс рүү илгээж магадгүй юм.

Энэ бүрэлдэхүүн хэсгийн илүү дэвшилтэт хувилбар нь хиймэл оюун ухааныг засахыг оролдож магадгүй юм. Энэ нь залруулгад тохируулга хийж, үүссэн ёс зүйгүй талуудыг зохих ёс зүйн параметр болгон эргүүлэх болно. Энэ төрлийн програмчлал нь төвөгтэй гэж та төсөөлж болно. Энэ нь төөрч, магадгүй ёс зүйгүйг гүн гүнзгий ёс зүйгүй болгож хувиргах магадлал бий. Хуурамч эерэг үр дүн нь бүрэлдэхүүн хэсгийг идэвхжүүлж, үүний дагуу бүх зүйлийг эмх замбараагүй болгох магадлал бас бий.

Ямартай ч энэ давхар шалгагч хэрхэн ажиллах талаар эргэлзэхгүйгээр энэ талаар зоригтой мэдэгдэл хийх гэж байна. Хязгаарлагдмал байдлаар хиймэл оюун ухаан нь өөрийгөө мэддэг гэж хэлж болно.

Тийм ээ, эдгээр нь олон хүний ​​​​хувьд тэмцэлтэй үгс юм.

Бараг бүх хүмүүсийн итгэл үнэмшил нь өнөөгийн хиймэл оюун ухаан өөрийгөө мэддэггүй гэсэн итгэл үнэмшил юм. Бүтэн цэг, цэг. Хэзээ, хэзээ болох нь мэдэгдэхгүй мэдрэмжтэй хиймэл оюун ухаанд хүрэх хүртлээ өөрийгөө мэддэг хиймэл оюун ухаан гэж байдаггүй. Наад зах нь хүн рүү чиглэсэн өөрийгөө ухамсарлах утгаар нь биш. Энэ нь тохиолдож болно гэж битгий хэлээрэй.

Хиймэл оюун ухааныг антропоморфизмд оруулахдаа болгоомжтой хандах хэрэгтэй гэдэгтэй би гарцаагүй санал нэг байна. Хэсэг хугацааны дараа би энэ асуудлын талаар илүү ихийг хэлэх болно.

Үүний зэрэгцээ, хэрвээ та хэлэлцүүлгийн үүднээс "өөрийгөө танин мэдэх" үе шатыг бүдүүлэг байдлаар ашиглахыг хүсч байвал хиймэл оюун ухаан яагаад өөрийгөө ухамсарлах гэсэн ерөнхий ойлголтыг дагаж мөрддөг гэж хэлж болохыг шууд ойлгож чадна гэдэгт би итгэж байна. ухамсар. Хиймэл оюун ухааны нэг хэсэг нь хиймэл оюун ухааны үлдсэн хэсгийг хянаж, бусад хиймэл оюун ухаан юу хийж байгааг хянаж байдаг. Үлдсэн хиймэл оюун ухаан хэтэрч эхлэхэд хяналтын хэсэг үүнийг илрүүлэхийг эрэлхийлдэг. Цаашилбал, хиймэл оюун ухааны хяналтын хэсэг эсвэл давхар шалгагч нь AI-ийн үлдсэн хэсгийг зохих эгнээнд буцааж чиглүүлж магадгүй юм.

Энэ нь муурны бичлэгийг үзээд өөрийгөө ийм зүйл хийж байгаагаа ухамсарласан үйлдэл шиг санагдахгүй байна уу?

Түүнд танил бөгж байдаг.

Бид үүнийг улам бүр өргөжүүлж чадна. AI давхар шалгагч бүрэлдэхүүн хэсэг нь хиймэл оюун ухааны бусад хэсгийн зан төлөвийг ажиглахаар програмчлагдсан төдийгүй хиймэл оюун ухааныг ашиглаж буй хүмүүсийн зан төлөвийг тэмдэглэдэг. Хэрэглэгчид хиймэл оюун ухааныг хэрхэн ашиглаж байна вэ? Зарим хэрэглэгчид хиймэл оюун ухаан тэднийг ялгаварлан гадуурхаж байна гэж үзэн ядаж байна гэж бодъё. AI давхар шалгагч үүнийг ойлгож, бусад хиймэл оюун ухаан төөрөлдөх өөр нэг улаан туг болгон ашиглаж магадгүй юм.

Энэ нь дотоод өөрийгөө танин мэдэхүй болон гадаад өөрийгөө танин мэдэхүйн ангиллыг бий болгодог.

AI давхар шалгагч нь бусад хиймэл оюун ухаан нь асуудалтай далай руу явсан эсэхийг мэдэхийн тулд дотоод болон гадна талаас нь сканнердаж байна. Илрүүлэх нь туг өргөх эсвэл өөрийгөө засахад хүргэдэг.

Өөр нэг оюун ухаан алдмаар өргөтгөл оруулъя. Бид хиймэл оюун ухааны үндсэн давхар шалгагчийг давхар шалгах зорилготой өөр нэг хиймэл оюун ухааны давхар шалгагч бүтээв. Яагаад ийм? AI давхар шалгагч нь ганхаж эсвэл ажлаа хийж чадахгүй байна гэж бодъё. Давхар шалгагчийн AI давхар шалгагч нь энэ эвдрэлийг илрүүлж, шаардлагатай арга хэмжээг авахыг эрэлхийлнэ. Өөрийгөө танин мэдэхүйн рекурсив шинж чанарт тавтай морилно уу, зарим нь тооцооллын хиймэл оюун ухааны системд үзүүлсэн шиг бахархалтайгаар тунхаглаж магадгүй юм.

Энэ талаар аль хэдийн суудлынхаа ирмэг дээр байгаа та нарын хувьд сүүлийн тайлбар бол хэрэв та хиймэл оюун ухааны системийг "өөрийгөө ухамсартай" болговол тэдгээр нь ёс суртахууны зан үйлд таталцах болно гэдгийг санал болгож байна. Тэд үүнийг мэдрэмжийн үндсэн дээр хийж байна уу? Шийдвэрлэсэн, үгүй. Тэд үүнийг тооцооллын үндсэн дээр хийж байна уу? Тийм ээ, гэхдээ энэ нь хүний ​​зан араншинтай ижил хэмжээтэй биш гэдгийг бид тодорхой хэлэх ёстой.

Хэрэв та өөрийгөө танин мэдэхүйн тухай ойлголтыг тооцооллын схемд нийцүүлэхийн тулд буруугаар мушгин гуйвуулж байгаад тааламжгүй байгаа бол энэ талаархи таны эргэлзээг сайн тэмдэглэсэн болно. Энэ ойлголтыг хөшүүрэг болгож буй хиймэл оюун ухааны хүчин чармайлтыг зогсоох ёстой эсэх нь бас нэг нээлттэй асуулт юм. Наад зах нь энэ нь биднийг хиймэл оюун ухаан хийж чадах зүйлээс илүү сайн үр дүнд хүргэх гэж байгаа юм шиг та ятгаж болно. Энэ үйл явдал болж байгаа тул бид нүдээ том нээх хэрэгтэй.

Энэ бүхэн хэрхэн өрнөхийг бид харах хэрэгтэй гэж бодож байна. Таван жил, арван жил, тавин жилийн дараа энэ асуудалд эргэн ирж, маргаантай асуудлаар таны бодол өөрчлөгдсөн эсэхийг хараарай.

Энэ нь сэдвийн талаар нэлээд төвөгтэй шалгалт байсныг би ойлгож байгаа бөгөөд та өдөр тутмын жишээг авахыг хүсч магадгүй юм. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд гарч ирснээр хиймэл оюун ухаан нь "өөрийгөө танин мэдэхүй"-тэй төстэй ямар нэгэн зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулбал, жинхэнэ өөрөө жолооддог автомашинууд бол хиймэл оюун ухаан нь машиныг өөрөө дангаараа жолооддог бөгөөд жолоодлогын үеэр хүний ​​туслалцаа үзүүлдэггүй.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшний өөрөө жолоодох жинхэнэ автомашин одоогоор гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, хэр удаан хүрэх нь хараахан гараагүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машинууд ба хиймэл оюун ухаан нь өөрийгөө ухамсарлах чадвартай

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Өөрийгөө жолооддог машинууд болон хиймэл оюун ухаантай холбоотой ёс зүйн асуултууд руу гүн гүнзгий шумбаж, хэрэв хүсвэл хиймэл оюун ухаан нэг төрлийн өөрийгөө танин мэдэхүйн тухай хөмсөг өргөх ойлголттой болоход бид одоо бэлэн байна.

Шууд ойлгомжтой жишээ татъя. Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин танай хөршийн гудамжаар явж байгаа бөгөөд аюулгүй жолоодож байх шиг байна. Эхлээд та өөрөө жолоодлоготой машиныг харах бүртээ онцгой анхаарал хандуулдаг байсан. Автономит машин нь видео камер, радарын төхөөрөмж, LIDAR төхөөрөмж гэх мэт электрон мэдрэгч бүхий өлгүүрээрээ бусдаас ялгарч байв. Өөрийгөө жолооддог машин танай нутгийн эргэн тойронд олон долоо хоног аялсны дараа та үүнийг бараг анзаарахаа больсон. Таны хувьд энэ бол аль хэдийн ачаалал ихтэй нийтийн зам дээр байгаа өөр нэг машин юм.

Өөрийгөө жолооддог машинтай танилцах нь боломжгүй юм уу, үнэмшилгүй юм болов уу гэж бодогдохгүйн тулд өөрөө жолоодлоготой автомашины туршилтад хамрагдсан орон нутаг аажим аажмаар гацсан машинуудыг харж дассан тухай би байнга бичсэн. миний шинжилгээг үзнэ үү энэ линкийг эндээс авна уу. Нутгийн оршин суугчдын олонх нь эцэст нь амаа ангайж гөлрөхөөс уйтгар гунигт автаж, өөрөө жолоодлоготой машинуудыг нүдээр харах болсон.

Магадгүй яг одоо тэд бие даасан тээврийн хэрэгслийг анзаарч байгаа гол шалтгаан нь цочрол, цочроох хүчин зүйлтэй холбоотой байж болох юм. Номын дагуу хийгдсэн хиймэл оюун ухаантай жолоодлогын системүүд нь машинууд хурдны хязгаарлалт, замын хөдөлгөөний дүрмийг дагаж мөрддөг эсэхийг шалгадаг. Уламжлалт хүнээр жолооддог машинаараа ачаалал ихтэй жолооч нарын хувьд хууль дүрмийг чанд мөрддөг хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашины ард гацсан үед та бухимддаг.

Энэ нь зөв ч бай, буруу ч бай бид бүгдэд дасах хэрэгтэй байж болох зүйл юм.

Бидний үлгэр рүү буцах. Нэг өдөр, танай хотод эсвэл хотод автомат жолоодлоготой машин зогсох тэмдэг рүү ойртож, хурдаа сааруулахгүй байна гэж бодъё. Тэнгэр минь, AI жолоодлогын систем нь Зогсоох тэмдгийн хажуугаар өөрөө жолооддог машинтай байх шиг байна. Ойролцоох явган зорчигч эсвэл унадаг дугуйтай хүн өөрөө жолоодлоготой машин зохих ёсоор зогсохгүй байна гэж санамсаргүй баригдсан бол төсөөлөөд үз дээ. Ичмээр. Аюултай!

Мөн хууль бус.

Одоо AI жолоодлогын систем дэх өөрийгөө танин мэдэх давхар шалгагчийн хэв маягийн үүрэг гүйцэтгэдэг AI бүрэлдэхүүн хэсгийг авч үзье.

AI жолоодлогын систем дотор юу болж байгааг нарийвчлан судлахад бид хэсэг хугацаа зарцуулах болно. Автономит машин дээр суурилуулсан видео камерууд Зогсоох тэмдэг мэт санагдаж байсан зүйлийг илрүүлсэн боловч энэ тохиолдолд хэт ургасан мод нь Зогсоох тэмдгийг бүрхэж байна. Зогсоох тэмдгүүд дээр анх бэлтгэгдсэн Machine Learning болон Deep Learning систем нь үндсэндээ бүрэн зогсох тэмдгүүдийн загвар дээр бүтээгдсэн бөгөөд ерөнхийдөө саадгүй. Видео дүрслэлийг тооцоолсон байдлаар шалгаж үзээд тухайн цэг дээр Зогсоох тэмдэг байх магадлал багатай байсан (нэмэлт хүндрэл, нэмэлт тайлбар болгон энэ нь шинээр байршуулсан Зогсоох тэмдэг байсан бөгөөд урьд нь бэлтгэсэн дижитал газрын зураг дээр харагдахгүй байсан. AI жолооны систем дээр тулгуурласан).

Ерөнхийдөө хиймэл оюун ухаан жолоодлогын систем нь Зогсоох тэмдэг байхгүй юм уу эсвэл Зогсоох тэмдэгтэй төстэй өөр төрлийн шинж тэмдэг юм шиг (энэ нь тохиолдож болох бөгөөд зарим давтамжтайгаар тохиолддог) гэж тооцоолсон байдлаар урагшлахаар шийдсэн.

Гэвч аз болоход, хиймэл оюун ухаанаа өөрөө мэддэг давхар шалгагч нь хиймэл оюун ухаан жолоодох системийн үйл ажиллагааг хянаж байсан. Өгөгдөл болон бусад AI-ийн үнэлгээг тооцоолж үзсэний дараа энэ бүрэлдэхүүн хэсэг нь хэвийн үйл ажиллагааны явцыг хүчингүй болгож, оронд нь хиймэл оюун ухааны жолоодлогын системийг тохиромжтой зогсоохыг тушаажээ.

Хэн ч гэмтэж бэртээгүй, хууль бус үйлдэл гараагүй.

Хиймэл оюун ухааныг өөрөө мэддэг давхар шалгагч нь хууль ёсны төлөөлөгч мэт ажиллаж, хиймэл оюун ухааны жолоодлогын системийг хуулийг дагаж мөрдөхийг хичээсэн гэж хэлж болно (энэ тохиолдолд Зогсоох тэмдэг). Мэдээжийн хэрэг аюулгүй байдал бас чухал байсан.

Энэхүү жишээ нь хиймэл хиймэл оюун ухаантай өөрийгөө танин мэдэх давхар шалгагч хэрхэн ажиллаж болохыг харуулсан байх гэж найдаж байна.

Дараа нь бид хиймэл оюун ухаанд өөрийгөө танин мэдэх давхар шалгалт нь ёс зүйд чиглэсэн хиймэл оюун ухаанд суурилсан функцийг хэрхэн хангаж болохыг харуулсан Ёс суртахууны илүү тод жишээг авч үзэх болно.

Нэгдүгээрт, хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашин бий болсонтой холбоотой санаа зовоосон асуудлуудын нэг нь тэднийг санамсаргүй байдлаар ялгаварлан гадуурхаж ашиглаж магадгүй гэсэн санаа юм. Эндээс хэрхэн. Эдгээр автомат жолоодлоготой машинууд орлогоо нэмэгдүүлэхийн тулд бүтээгдсэн гэж бодъё. Флотын эзэн ашигтай үйл ажиллагаа явуулахыг хүсдэг.

Тухайн хот эсвэл хотод роуминг автомат жолоодлоготой машинууд бусад бүс нутагт бус харин нийгмийн зарим хэсэгт аажмаар үйлчилж эхэлдэг байж болох юм. Тэд мөнгө олох зорилгоор үүнийг хийдэг, учир нь ядуу газар нутгийн чинээлэг хэсэг шиг орлого олохгүй байж магадгүй юм. Энэ нь зарим газар үйлчилж, бусад газарт үйлчлэхгүй гэсэн тодорхой хүсэл биш юм. Үүний оронд автомат жолоодлоготой автомашины хиймэл оюун ухаан нь газарзүйн хувьд өндөр цалинтай газруудад анхаарлаа төвлөрүүлснээр илүү их мөнгө олох боломжтой гэдгийг тооцооллын аргаар "тооцох" нь органик байдлаар үүсдэг. Би энэ нийгмийн ёс зүйн асуудлыг өөрийн буланд, тухайлбал at холбоос энд байна.

Бид хиймэл оюун ухааны жолоодлогын системд AI өөрөө өөрийгөө мэддэг давхар шалгагч нэмсэн гэж бодъё. Хэсэг хугацааны дараа хиймэл оюун ухааны бүрэлдэхүүн хэсэг нь автомат жолоодлоготой машинууд хаана тэнүүчилж байгааг тооцоолон анзаардаг. Зарим бүс нутагт бусдын хувьд тийм биш гэдгийг онцлон тэмдэглэх нь зүйтэй. Ёс зүйн хиймэл оюун ухааны зарим зарчмуудыг кодчилсны үндсэн дээр хиймэл оюун ухаанаа өөрөө мэддэг давхар шалгагч нь өөрөө жолооддог машинуудыг хотын бусад хэсэгт хайхрамжгүй чиглүүлж эхэлдэг.

Энэ нь хиймэл оюун ухааны өөрийгөө танин мэдэх ойлголтыг харуулж байгаа бөгөөд үүнийг Ёс зүйн AI элементтэй хослуулан хийдэг.

Ийм өөр нэг жишээ нь энэхүү Ёс суртахууны хиймэл оюун ухааныг авч үзэх нь маш ухаантай бөгөөд амь нас, үхлийн ноцтой үр дагавар байж болохыг ойлгох болно.

Саяхан болсон автомашины ослын талаарх мэдээг авч үзье. Замын хөдөлгөөний ачаалал ихтэй уулзвар дээр нэгэн жолооч ирж яваад ногоон гэрлээр шууд явах гэж байсан гэж мэдээлэв. Өөр нэг жолооч улаан гэрлэн дохионы хажуугаар өнгөрч, уулзвар руу орох ёсгүй байтал орж ирсэн. Ногоон гэрэл ассан жолооч эцсийн мөчид нөгөө машин нь түүний машин руу хүчтэй цохих гэж байгааг ойлгов.

Энэ айдас түгшүүртэй жолоочийн хэлснээр тэрээр нөгөө машинд мөргүүлэх гэж байгаа юм уу, эсвэл хөндлөнгөөс зугтахыг оролдохын тулд хазайж болно гэдгээ сайтар тооцоолсон. Ойролцоох явган зорчигчид аюулд өртөх магадлалтай байсан нь хазайсантай холбоотой асуудал байв.

Та аль сонголтыг хийх вэ?

Та цохилт өгөхөд өөрийгөө бэлдэж, хохирол нь таныг тахир дутуу болгохгүй эсвэл алахгүй гэж найдаж болно. Нөгөөтэйгүүр, та эрс өөр тийшээ хазайж болох ч ойролцоох явган зорчигчдыг маш ихээр аюулд оруулж, гэмтээж эсвэл алах аюултай. Энэ бол ёс суртахууны үнэлэмжийг хамарсан хүнд хэцүү асуудал бөгөөд ёс зүйн (болон хууль эрх зүйн) үр дагаварт бүрэн дүүрэн байдаг.

Алдартай эсвэл магадгүй гутамшигтай Троллейбусны асуудал гэж нэрлэгддэг ийм төрлийн бэрхшээлийг хамарсан ерөнхий зорилготой ёс зүйн эргэлзээ бий. Миний дэлгэрэнгүй мэдээллийг эндээс үзнэ үү. энэ линкийг эндээс авна уу. Энэ нь 1900-аад оны эхэн үеэс улбаатай, ёс суртахууны хувьд өдөөгч сэтгэлгээний туршилт болох нь харагдаж байна. Иймээс энэ сэдэв нэлээд удаан үргэлжилсэн бөгөөд сүүлийн үед хиймэл оюун ухаан болон өөрөө жолооддог машин бий болсонтой холбоотой болсон.

Хүний жолоочийг өөрөө жолооддог машинд суулгасан хиймэл оюун ухаан жолоодох системээр солих.

Өөрийгөө жолооддог хиймэл оюун ухаантай машин уулзвар руу орж ирэхэд автомат жолоодлоготой машины мэдрэгч гэнэт улаан гэрлээр шууд ирж жолоочгүй машин руу чиглэж буй хүний ​​жолоодлоготой машиныг илрүүлдэг гэж төсөөлөөд үз дээ. Өөрийгөө жолооддог машин дотор зарим зорчигчтой байна гэж бодъё.

Та хиймэл оюун ухааныг юу хийхийг хүсч байна вэ?

AI жолоодлогын систем урагшлах, хагалах (тээврийн хэрэгслийн доторх зорчигчдыг гэмтээж эсвэл үхүүлэх магадлалтай) сонгох уу, эсвэл жолоодлогын хиймэл оюун ухаан жолоодлогын систем боломжоо ашиглаад өөр тийшээ эргэхийг хүсэж байна уу. Ойролцоох явган зорчигч руу аюул учруулж, тэднийг гэмтээж эсвэл үхүүлж болзошгүй.

Өөрийгөө жолооддог машин үйлдвэрлэгч олон хиймэл оюун ухаантай эдгээр ёс суртахуунтай хиймэл оюун ухаантай холбоотой хүндрэл бэрхшээлийг даван туулахын тулд элсэнд шууд хандаж байна. Ерөнхийдөө одоогоор програмчлагдсан хиймэл оюун ухаан нь зүгээр л урагшилж, нөгөө машинд хүчтэй цохиулна. AI нь өөр ямар ч бултах маневр хайхаар програмчлагдсангүй.

Өөрийгөө жолооддог хиймэл оюун ухаантай машин үйлдвэрлэгчдийн энэ мууг хардаггүй, сонсдоггүй, мууг үл тоомсорлодог хандлага нь эцэстээ эргэн тойронд гарч ирээд тэднийг хазах болно гэж би олон удаа таамаглаж байсан (миний шинжилгээ холбоос энд байна). Та хиймэл оюун ухаан юу хийхээр програмчлагдсаныг олж мэдэхийн тулд ийм автомашины осолтой холбоотой нэхэмжлэлийг хүлээж болно. Хиймэл оюун ухааныг хөгжүүлж, нэвтрүүлсэн компани эсвэл хиймэл оюун ухаан хөгжүүлэгчид эсвэл флотын оператор нь хиймэл оюун ухааны хийсэн эсвэл хийгээгүй зүйлийн төлөө хайхрамжгүй хандсан уу? Ийм тохиолдол гарсны дараа олон нийтийн оюун санааны оюун санааны ёс суртахууны талаарх олон нийтийн гал түймрийн шуурга дэгдэх болно гэж та мөн таамаглаж болно.

Энэхүү Ёс суртахууны AI-ийн дилемма руу бидний бахархаж буй хиймэл оюун ухаан нь ёс суртахууны чиг баримжаатай өөрийгөө мэддэг давхар шалгагч руу ордог. Магадгүй энэ тусгай хиймэл оюун ухааны бүрэлдэхүүн хэсэг нь иймэрхүү нөхцөл байдалд оролцож магадгүй юм. Энэ хэсэг нь AI жолоодлогын системийн үлдсэн хэсэг болон өөрөө жолооддог машины статусыг хянаж байдаг. Ийм аймшигтай мөч тохиолдоход AI бүрэлдэхүүн хэсэг нь Троллейбусны асуудлыг шийдвэрлэх үүрэг гүйцэтгэдэг бөгөөд хиймэл оюун ухаан жолоодох систем юу хийх ёстойг санал болгодог.

Кодлох нь тийм ч амар зүйл биш гэдгийг би танд баталж байна.

Дүгнэлт

Энэ сэдвийн талаар одоохондоо би та бүхэнтэй хамгийн сүүлийн бодлоо хуваалцах болно.

Энэ нь танд сонирхолтой санагдах магадлалтай.

Та энэ талаар мэдэх үү толин тусгал тест?

Энэ нь өөрийгөө танин мэдэхүйн судалгаанд нэлээд алдартай. Энэ асуудлын бусад нэрс бол толин тусгал өөрийгөө таних тест, улаан толбо тест, улаан толбо тест болон холбогдох хэллэгүүд юм. Энэхүү техник, арга барилыг анх 1970-аад оны эхээр амьтдын өөрийгөө танин мэдэх чадварыг үнэлэх зорилгоор боловсруулсан. Туршилтыг амжилттай давсан амьтдад мич, зарим төрлийн заан, далайн гахай, шаазгай болон бусад зарим амьтад багтдаг. Туршилтанд хамрагдсан бөгөөд шалгалтанд тэнцээгүй амьтдад аварга панда, далайн арслан гэх мэт амьтад багтдаг.

Энэ бол хэлэлцээ.

Амьтан өөрийгөө толинд харахад тухайн амьтан өөрт нь байгаа дүрс гэдгийг ойлгодог уу, эсвэл амьтан өөр амьтан гэж боддог уу?

Амьтан өөрийн гэсэн төрөл зүйлийг хараад өөрийн төрөл зүйлийг нүдээр таньдаг тул толинд харуулсан амьтныг үеэл эсвэл дайсагнагч өрсөлдөгч гэж бодож магадгүй юм (ялангуяа амьтан толин тусгал дээрх дүрсийг хараад хашгирч байвал). эргээд тэдэн рүү хашгирч байх шиг байна). Магадгүй та гэрийн муур эсвэл хайртай тэжээвэр нохойгоо гэрийн толинд анх удаа харж байхад ийм үйлдэл хийхийг харсан байх.

Ямар ч байсан зэрлэг амьтан урьд өмнө хэзээ ч өөрийгөө харж байгаагүй гэж таамаглах болно. Энэ нь тийм ч үнэн биш, учир нь амьтан тайван усан санд эсвэл гялалзсан чулуулгийн тогтоцоор өөрийгөө олж харсан байж магадгүй юм. Гэхдээ эдгээрийг магадлал багатай гэж үздэг.

За, бид ямар нэгэн байдлаар амьтан өөрийгөө толинд харуулсан амьтан гэдгийг олж мэдэхийг хүсч байна. Энгийн мэт санагдах энэ үйлдлийг тунгаан бод. Хүн төрөлхтөн залуу насандаа өөрийгөө толинд харж байж оршин тогтнож, оршин байгаа гэдгээ баталдаг. Тэд өөрсдийгөө ухамсарлаж эхэлдэг. Онолын хувьд та өөрийгөө толинд харах хүртлээ өөрийгөө мөн гэдгээ ойлгохгүй байж магадгүй юм.

Магадгүй амьтад танин мэдэхүйн хувьд өөрийгөө танин мэдэх чадваргүй байж магадгүй юм. Энэ нь амьтан толинд өөрийгөө харж, өөр амьтан гэдэгт үүрд итгэдэг байж магадгүй юм. Өөрийгөө хэчнээн удаа харсан ч энэ бол өөрөөсөө өөр амьтан гэж бодох болно.

Үүний заль мэх нь тоглох болно. Бид амьтан дээр тэмдэг тавьдаг. Энэ тэмдэг нь амьтан өөрийгөө толинд харах үед л харагдах ёстой. Хэрэв амьтан мушгиж эсвэл эргүүлж, өөрөө (шууд) тэмдгийг харж чадвал энэ нь туршилтыг сүйрүүлнэ. Цаашилбал, амьтан тэмдгээ мэдрэх, үнэрлэх эсвэл өөр ямар нэгэн байдлаар илрүүлж чадахгүй. Дахин хэлэхэд, хэрэв тэд тэгвэл энэ нь туршилтыг сүйрүүлэх болно. Амьтан бид түүн дээр тэмдэг тавьсныг мэдэхгүй, учир нь энэ нь араатанд ямар нэгэн зүйл байгааг илтгэх болно.

Бид толинд өөрийгөө харах замаар тэмдэг илрэх цорын ганц боломжит шалтгаан байж болохуйц зүйлийг нарийсгахийг хүсч байна.

Аа, одоо шалгалт бэлэн боллоо. Амьтныг толины өмнө байрлуулж эсвэл түүн рүү тэнүүчилж байна. Хэрэв амьтан дараа нь тэмдэгт хүрэх эсвэл ухах оролдлого хийвэл тэр тэмдэг нь өөрөө байгаа гэдгийг мэдсэн тохиолдолд л ийм зүйл тохиолдох болно гэж бид үндэслэлтэй дүгнэх болно. Маш цөөхөн амьтан энэ туршилтыг амжилттай давж чадсан.

Шалгалттай холбоотой шүүмжлэл их байна. Хэрэв хүн шалгагч ойрхон байвал тэмдэг рүү ширтэх замаар юм өгч магадгүй бөгөөд энэ нь амьтныг сойздох эсвэл мэдрэхэд хүргэж болзошгүй юм. Өөр нэг боломж бол энэ амьтан толинд өөр амьтан харагдаж байгаа гэдэгт итгэдэг хэвээр байгаа ч энэ нь ижил төрлийн амьтан тул нөгөө амьтан дээрх шиг тэмдэгтэй эсэхийг гайхдаг.

Цаашид ч явна.

Та үүнийг мэдсэндээ баяртай байгаа бөгөөд амьтан дээр яагаад ийм тэмдэг байхгүй байсан цэг эсвэл хачин тэмдэг байдгийг ойлгох болно гэдэгт би итгэлтэй байна. Хэн мэдэх вэ, энэ нь саяхан толин тусгал туршилтын туршилтыг дуусгасан байж магадгүй юм. Өгөөмөр оролцсон амьтанд баяр хүргэе.

Эдгээр нь хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинтай ямар холбоотой вэ?

Энэ хэсэг танд таалагдах болно.

Өөрийгөө жолооддог машин урт хурдны замаар явж байна. AI жолоодлогын систем нь бусад урсгалыг илрүүлэхийн тулд мэдрэгч ашигладаг. Энэ бол хоёр эгнээтэй хурдны зам бөгөөд нэг эгнээгээр хойшоо, нөгөө эгнээгээр урагшаа явдаг. Заримдаа машин болон ачааны машинууд бие биенийхээ хажуугаар өнгөрөхийг оролдох бөгөөд эсрэг талын эгнээ рүү орж, дараа нь өөрийн зорчих эгнээ рүү буцаж очдог.

Та үүнийг харсан, та үүнийг хийсэн нь эргэлзээгүй.

Энэ дараагийн асуудал танд бас тохиолдсон гэдэгт би итгэлтэй байна. Өөрөө жолоодлоготой машины өмнө том цистерн машинуудын нэг байна. Энэ нь гялалзсан металлаар хийгдсэн байдаг. Шүгэл шиг өнгөлж, цэвэрлэнэ. Ийм ачааны машины ард гарахдаа та машиныхаа толин тусгал дүрсийг танкийн арын хэсгээс харж болно. Хэрэв та үүнийг харсан бол энэ нь хичнээн гайхалтай болохыг та мэднэ. Цистерн ачааны машины арын толин тусгал мэт туссан та болон таны машин энд байна.

Галзуу солиотой мушгирахын тулд суу.

Цистерн ачааны машины ард өөрөө жолооддог машин гарч ирэв. Камерууд нь толинд туссан машины дүрсийг илрүүлдэг. Хэхэ, хиймэл оюун ухаан энэ машин мөн үү? Өөрийгөө жолооддог машин дээр ирж байна уу? Автомат жолоодлоготой машин цистерн рүү ойртох тусам машин улам бүр ойртож байх шиг байна.

Тийм ээ, хиймэл оюун ухаан тооцооллын хувьд энэ нь аюултай нөхцөл байдал гэдгийг тооцоолж магадгүй бөгөөд хиймэл оюун ухаан нь энэ галзуу хулхи машинаас зайлсхийх арга хэмжээ авах ёстой. Та харж байна уу, хиймэл оюун ухаан толинд өөрийгөө таниагүй. Толин тусгалын шалгалтанд тэнцээгүй.

Юу хийх вэ? Магадгүй хиймэл оюун ухаанаа өөрөө мэддэг давхар шалгагч нь асуудал руу үсрэн орж, бусад хиймэл оюун ухааны жолоодлогын системийг зөвхөн хор хөнөөлгүй тусгал гэж итгүүлж магадгүй юм. Аюулаас сэргийлсэн. Дэлхий аврагдсан. AI толин тусгал тестийг амжилттай давлаа!

Дүгнэж хэлэхэд бид заримдаа хиймэл оюун ухаан нь дундаж баавгайгаас илүү ухаантай эсвэл ядаж өөрийгөө илүү ухамсартай байдаг гэж хэлж болно (гэхдээ баавгайнуудын үнэлэмжээр тэд толины сорилтод ихэвчлэн сайн байдаг. усан сан дахь тусгалд дассан).

Залруулга, магадгүй хиймэл оюун ухаан нь аварга панда, далайн арслангаас илүү өөрийгөө мэддэг байж болох ч амьтдад үүнийг битгий хэлээрэй, тэд хиймэл оюун ухааны системийг эвдэх эсвэл цохих хүсэл эрмэлзэлтэй байж магадгүй юм. Бид үүнийг хүсэхгүй байна, тийм үү?