"Итгэлцлийн уналт"-ыг их хэмжээгээр бий болгож байгаа нь хариуцлагатай хиймэл оюун ухааныг устгах зорилготой. Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийг

Усны түрлэг бүх завийг өргөдөг гэсэн эртний хэллэгийг та сайн мэддэг гэдэгт итгэлтэй байна. Энэ зоосны нөгөө тал бий, магадгүй тийм ч сайн мэддэггүй, тухайлбал, усны түрлэг бүх хөлөг онгоцыг живүүлдэг.

Эцсийн эцэст, заримдаа далайн түрлэг таныг дээшлэх эсвэл уруудах эсэхийг тодорхойлдог.

Түрлэг нь юу хийдгийг нь хийх гэж байна. Та энэ талаар тодорхой хэлэх үггүй байж магадгүй юм. Хэрэв таны завь түрлэгт бэхлэгдсэн эсвэл бэхлэгдсэн бол та далайн түрлэгийн хүсэлд нийцэж байна. Гол нь далайн түрлэг аль зүг рүү чиглэхийг урьдчилан таамаглахын зэрэгцээ тэнд байгааг ойлгох явдал юм. Бага зэрэг аз хийвэл та далайн түрлэгийг даван туулж, ямар ч гэмтэлгүйгээр үлдэж чадна.

Завь, далайн түрлэгийн тухай далайчдын энэ бүх яриа нь хиймэл оюун ухаан (AI) -тай хэрхэн холбоотой болохыг авч үзье.

Юуны өмнө би та бүхэнд улам бүр түгээмэл болж байгаа үг хэллэгийг танилцуулахыг хүсч байна Хариуцлагатай AI. Ерөнхий ойлголт бол бид хүний ​​зөв, хүсүүштэй үнэт зүйлсийг дагаж мөрддөг хиймэл оюун ухааныг хүсдэг. Зарим нь үүнийг гэж нэрлэдэг Хариуцлагатай AI. Бусад нь ч мөн адил хэлэлцдэг Хариуцлагатай AI, Найдвартай AIБолон AI Alignment, эдгээр нь бүгд нэг тулгын чулууны зарчмыг хөнддөг. Эдгээр чухал асуудлын талаархи миний ярилцлагыг үзнэ үү холбоос энд байна болон холбоос энд байна, миний Forbes буланд хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийн талаар үргэлжилсэн бөгөөд өргөн хүрээтэй нийтлэлдээ цөөн хэдэн зүйлийг нэрлэе.

AI-ийн уялдаа холбоог агуулсан чухал бүрэлдэхүүн хэсэг нь итгэлцэл юм. Хиймэл оюун ухаан аюулгүй, найдвартай гэдэгт бид итгэж болох уу? AI зохион бүтээгчид үүнийг хариуцлагатай, зохих ёсоор хийхийг эрмэлзэнэ гэдэгт бид итгэж болох уу? Бид хиймэл оюун ухааны чиглэлээр ажилладаг, хиймэл оюун ухааныг ажиллуулж, засвар үйлчилгээ хийдэг хүмүүст итгэж болох уу?

Энэ бол асар их итгэл юм.

Хиймэл оюун ухаанд итгэх итгэлийг бэхжүүлэхийн тулд AI-ийн ёс зүй болон AI хуулийн хүчин чармайлт үргэлжилсээр байна. Удирдамж, ёс зүйн AI-ийн зарчмуудын багц болгон заасан тохиромжтой "зөөлөн хуулиудыг" бий болгосноор бид хиймэл оюун ухаан хөгжүүлэгчид болон хиймэл оюун ухааны операторуудыг ёс зүйн хувьд зөв практикийг дагаж мөрдөхийг хичээх боломжтой болно гэсэн итгэл үнэмшил юм. Нэмж дурдахад, хэрэв бид хиймэл оюун ухаанд хяналт тавих эсвэл зохицуулах хангалттай анхааралтай хууль тогтоомжийг боловсруулж, хууль эрх зүйн албан ёсны номонд оруулсан тул "хатуу хууль" гэж тооцвол хиймэл оюун ухааныг шулуун, хуулиар зөвшөөрөгдсөн зам руу чиглүүлэх хүчтэй боломж бий.

Хэрэв хүмүүс хиймэл оюун ухаанд итгэхгүй бол сайн хиймэл оюун ухаанд шингэсэн ашиг тусыг хүртэх боломжгүй болно. Байгаа гэдгийг би түр зуур онцолж хэлье AI For Good мөн харамсалтай нь бас байдаг AI For Bad. Муу хиймэл оюун ухаан нь хүн төрөлхтөнд олон тооны сөрөг нөлөө үзүүлдэг. Ялгаварлан гадуурхсан хэв маягаар ажилладаг хиймэл оюун ухаан гэж бий. Хүмүүст шууд болон шууд бусаар хор хөнөөл учруулдаг хиймэл оюун ухаан гэж байдаг. гэх мэт.

Тэгэхээр, бид байна AI For Good Бид зохион бүтээж, ашиглахыг чин сэтгэлээсээ хүсч байна. Энэ хооронд байна AI For Bad бид багасгаж, оролдох, урьдчилан сэргийлэхийг хүсч байна. AI For Bad AI-д итгэх итгэлийг бууруулах хандлагатай байдаг. AI For Good ихэвчлэн хиймэл оюун ухаанд итгэх итгэлийг нэмэгдүүлдэг. Итгэлцэл улам бүр нэмэгдэж, итгэлцлийг харгислалтайгаар сааруулахын хооронд ширүүн тэмцэл өрнөнө.

AI-ийн итгэл дээшилж, улмаар уналтад ордог. Дараа нь хиймэл оюун ухаанд итгэх итгэл буурсан түвшин ахин дээшилнэ. Хиймэл оюун ухаанд итгэх итгэлийн түвшин нааш цаашаа. Толгой эргэхэд бараг л хангалттай. Таны гэдэс далайд эргэлдэж, сэгсэрч буй завин дотор байгаа мэт далайн өвчинтэй төстэй юм.

Энэ тулаан өрнөж байх үед итгэлцлийг нэмэгдүүлэх ахиц дэвшилд илүү их хүчин чармайлт гаргах өөр нэг макроскоп хүчин зүйл байгааг та баталж магадгүй юм. Илүү том зүйл тоглож байна. Хиймэл оюун ухаанд итгэх итгэл дээш доош эргэлдэж байгаа нь далайн мангасын түрлэгийн хүслээр юм. Тиймээ, хиймэл оюун ухаанд итгэх итгэл бол хоёр тивийн хооронд болж буй тулаан, мөргөлдөөнөөс илүү тод томруун талбарт хөвж буй завьтай адил юм. AI For Good болон AI For Bad.

Би юуг хэлээд байна вэ, та асуултаар асууж магадгүй юм уу?

гэж би онцолж байна асар их "итгэлцлийн уналт" Манай нийгэм одоогоор тэсч байна.

Надад тодруулахыг зөвшөөрнө үү.

Өнөөдөр хэвлэл мэдээллийн хэрэгслээр эдийн засгийн хямралын талаар маш их ярьж байна.

Эдийн засгийн утгаараа эдийн засгийн уналт нь ихэвчлэн эдийн засгийн идэвхжил буурсантай холбоотой эдийн засгийн бууралт гэж тооцогддог. Бодит орлого буурах, ДНБ (Дотоодын нийт бүтээгдэхүүн) буурах, ажил эрхлэлт сулрах, цомхотгол хийх, аж үйлдвэрийн үйлдвэрлэл буурах гэх мэт эдийн засгийн нөхцөл байдлын улмаас эдийн засгийн уналтыг бид ихэвчлэн гэрчлэх эсвэл амсдаг. Би эдийн засгийн хямралын талаар өргөн хүрээний хэлэлцүүлэгт орохгүй, үүний төлөө үнэн зөв уналт гэж юу болох талаар зарласан эсвэл маргаж байгаа хүмүүсийн талаар маш их маргаан гардаг (энэ сэдвийг ширүүн мэтгэлцдэг олон ярьж буй толгойнуудыг та олж болно).

"Хямрал" гэсэн ойлголт нь зөвхөн эдийн засгийн анхаарлын төвд байхаас гадна нийгмийн бусад салбарыг хамарч өргөжсөн. Та нэг юмуу өөр зүйл удааширч байгааг эдийн засгийн хямралд автсан гэж хэлж болно. Энэ нь олон төрлийн хэрэглээтэй, тохиромжтой үг юм.

Та хараахан сонсоогүй байж болох нэг хэрэглээнд бэлэн байгаарай.

Итгэлийн уналт.

Энэ нь зөв, бид a гэж нэрлэгддэг үзэгдлийн талаар ярьж болно итгэлцлийн уналт.

Гол нь нийгэм бүхэлдээ итгэлцэл удааширч эсвэл буурч магадгүй юм. Та үүнийг мэдэрсэн нь дамжиггүй. Хэрэв та ямар нэгэн төрлийн сошиал медиа ашигладаг бол манай засгийн газар, томоохон байгууллагууд гэх мэт томоохон байгууллагуудад итгэх итгэл огцом унасан мэт харагдана. Юм л тийм санагдаж байна.

Нийгэмд итгэх итгэл буурч байгааг та ганцаараа мэдэрсэнгүй.

Дугаар зүйл Атлантын далай Өнгөрсөн жил "Итгэлийн төгсгөл" нэртэй манай нийгэм хаашаа явж байгаа талаар дараах гол дүгнэлтүүдийг дэвшүүлсэн.

• "Бид итгэлцлийн хямралын дунд байж магадгүй"
• "Итгэлцлийн спираль нэгэнт эхэлсэн бол буцаахад хэцүү"
• "Түүний уналт нь тодорхой харагдахаас өмнө тодорхойгүй мэдрэгддэг"

Итгэлцлийн уналт нь бид бүгдэд сэмхэн ирдэг. Инч инчээр итгэл суларч байна. Итгэлцлийг бий болгох оролдлого улам бүр хэцүү болж байна. Спептицизм дээд цэгтээ хүрдэг. Итгэл өгөх ёстой гэдэгт бид эргэлзэж байна. Бид итгэлийг ялангуяа олж авч чадна гэдэгт итгэдэггүй (ямар нэгэн утгаараа итгэл бол хий үзэгдэл, худал хуурмаг, үүнийг тодорхой, найдвартай болгох боломжгүй юм).

Гол нь нийгэмдээ итгэх итгэл хэрэгтэй.

Үүнтэй ижил нийтлэлд: "Итгэ. Үүнгүйгээр Адам Смитийн үл үзэгдэх гар халаасандаа үлддэг; Кейнсийн "амьтны сүнс" дуугүй болсон. Нобелийн шагналт эдийн засагч Кеннет Арроу 1972 онд "Арилжааны ажил гүйлгээ бүр итгэлцлийн элементтэй байдаг" гэж бичжээ.

Судалгаанаас харахад эдийн засгийн үзүүлэлт болон нийгэмд итгэх итгэл хоёрын хооронд бараг шууд хамааралтай байдаг. Хэдийгээр энэ нь зөн совингийн хувьд устай мэт санагдаж болох ч маргаантай мэдэгдэл байж магадгүй юм. Энэхүү анхаарал татахуйц маргааныг авч үзье: "Эдийн засагч Пол Зак, Стивен Кнак нар 1998 онд хэвлэгдсэн судалгаагаар "ихэнх хүмүүст итгэж болно" гэсэн үндэстний итгэл үнэмшил 15 хувиар унасан нь жил бүр эдийн засгийн өсөлтөд бүтэн хувиар нэмэгддэг болохыг тогтоожээ." (мөн тэнд).

Хэсэг хугацаа зарцуулж, итгэлцлийн талаарх өөрийн үзэл бодлыг тунгаан бод.

Өнөөдөр та эдгээр салбар бүрт илүү их итгэл үнэмшилтэй байна уу, эсвэл багассан байна уу?

• Төрдөө итгэ
• Бизнесүүдэд итгэх
• Удирдагчдад итгэ
• Улс үндэстэнд итгэ
• Брэндүүдэд итгэ
• Хэвлэл мэдээллийн хэрэгсэлд итгэ
• Хувь хүнд итгэ

Хэрэв та эдгээр бүх тал дээр таны итгэл нэг үеэ бодвол илүү өндөр болсон гэж үнэхээр хэлж чадах юм бол малгайны үзүүр нь танд (та ичихгүй аз жаргалын ертөнцөд амьдарч байна). Товчхондоо, гаригийн ихэнх нь эдгээр ариун нандин элементүүд сүйрсэн гэдэгт итгэх итгэлийн хувьд эсрэгээр илэрхийлнэ гэж би хэлж зүрхлэх болно.

Илт тийм.

Манай нийгэмд итгэл алдарч байна гэсэн мэдэгдлийг тоо баримт нотолж байх шиг байна. Дээр дурдсан аль нэг мужийг сонго. Бидний засгийн газрын чадавхид итгэх итгэлийн тухайд: “Пью судалгааны төвийн мэдээлснээр 1964 онд төрд итгэх итгэл дээд цэгээсээ огцом буурч, түүнээс хойш цөөхөн хэдэн зүйлийг эс тооцвол бүрмөсөн алга болсон” (мөн тэнд).

Хувь хүмүүст итгэх итгэлийг жагсаалтад оруулах ёсгүй гэж та маргах уруу татагдаж магадгүй юм. Мэдээжийн хэрэг, бид бие биедээ итгэдэг хэвээр байна. Зөвхөн тэдгээр том муу байгууллагуудад итгэхээ больсон. Хүнээс хүнд бидний итгэл урьдын адил байх ёстой.

Танд хэлэхэд уучлаарай: “Америкчуудын хоорондын итгэлцлийн талаарх мэдээллийг олж авахад илүү хэцүү байдаг; Pew-ийн хэлснээр хүмүүс хоорондын итгэлцлийн талаар судалгаанууд тогтмол бус асуудаг. Гэхдээ нэг тооцоогоор "ихэнх хүмүүст итгэж болно" гэж итгэдэг америкчуудын хувь 45-аад оны дундуур 80 орчим хувьтай байсан; одоо 30 хувьтай байна” (мөн тэнд).

Харгис хэрцгий, гэхдээ үнэн.

Итгэлцлийн талаар шинжээчидтэй хийсэн саяхны ярилцлага дараахь зүйлийг танилцуулав.

· “Муу мэдээ гэвэл итгэл бол байгалийн энэхүү үнэт баялаг бол устах аюулд орно. Тиймээс 1972 онд америкчуудын тал орчим хувь нь ихэнх хүмүүст итгэж болно гэдэгтэй санал нэгджээ. Гэвч 2018 он гэхэд энэ нь 30 орчим хувь болж буурсан байна. Бид 50 жилийн өмнөхөөсөө хамаагүй бага байгууллагад итгэдэг. Жишээлбэл, 1970 онд америкчуудын 80% нь эмнэлгийн системд итгэдэг байв. Одоо 38 хувьтай байна. 1970-аад оны телевизийн мэдээ 46% байсан. Одоо 11% байна. Конгресс, 42% - 7%. Бид асар их итгэлцлийн хямралыг туулж амьдарч байгаа бөгөөд энэ нь ихэнх хүмүүс огт мэдэхгүй байж болох хэд хэдэн арга замаар биднийг хохироож байна” (Жонатан Чанг, Мегна Чакрабарти нарын ярилцлага, “Үндсэн итгэл: Итгэлийн тархины шинжлэх ухаан”, WBUR, 29-р сар 2022 оны XNUMX-ний өдөр, Стэнфордын их сургуулийн сэтгэл судлалын дэд профессор, Стэнфордын Нийгмийн мэдрэл судлалын лабораторийн захирал Жамил Закигийн хэлсэн үгийг иш татав.

Итгэлцлийн талаарх үндэсний болон дэлхийн янз бүрийн судалгаагаар нийгмийн итгэлцлийн түвшинтэй холбоотой барометрийг тодорхойлсон байдаг. Үр дүнг өнгөцхөн харвал ч итгэл нь унаж, унаж, унаж байгааг харуулдаг.

Өөрөөр хэлбэл ердийн хувилбарын дундаж хувилбар итгэлцлийн уналт гэсэн шошготой болж "шинэчилсэн" байна их хэмжээний итгэлцлийн уналт. Бидэнд зөвхөн итгэлцлийн уналт байхгүй; Үүний оронд бид итгэлцлийн асар их уналтанд орлоо. Их цаг хугацаа. Илүү томорч байна. Энэ нь бидний оршин тогтнох бүх хэлбэрт нэвтэрдэг. Энэхүү асар их итгэлцлийн уналт нь бидний хийж байгаа зүйл, бидний амьдрал хэрхэн өрнөж буйн өнцөг булан бүрт нөлөөлж байна.

Үүнд хиймэл оюун ухаан орно.

Та үүнийг ирж байгааг харсан гэж би таамаглаж байна. -ийн тулаан гэж би түрүүн хэлсэн AI For Good эсрэг AI For Bad болж байна. Хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны хуулийн талбарт ажиллаж буй хүмүүсийн ихэнх нь өдөр бүр өмнөх тулааныхаа өгсөлт, бууралттай тулгардаг. Хариуцлагатай хиймэл оюун ухаан ялаасай гэж бид хүсч байна. Гайхалтай нь, эдгээр ширүүн тулалдаанд оролцож байгаа олон хүмүүс хиймэл оюун ухааны итгэлцлийн тулааны талбарт болж буй бүх зүйлийг нэг ёсондоо дарангуйлдаг итгэлцлийн асар их уналтын улмаас үзүүлэх нөлөөг мэддэггүй.

Давалгаа бол итгэлцлийн асар их уналт юм. AI-ийн талаарх итгэлцэл бол өөрийн дураар өгсөж, уруудаж байгаа завь бөгөөд далайн түрлэгийн улмаас бүхэлдээ уруудаж байгаа нь харамсалтай. Нийгэм бүхэлдээ итгэлцлийн хямралд өртөж байгаа тул хиймэл оюун ухаанд итгэх итгэл ч мөн адил байна.

Энэ нь ялагдал мэт санагдахыг би хүсэхгүй байна.

AI-д итгэх итгэлийн төлөөх тэмцэл үргэлжлэх ёстой. Миний онцлохыг хичээж байгаа зүйл бол эдгээр тулалдаан үргэлжилсээр байгаа тул итгэлцэл бүхэлдээ нийгмээс урсаж байгааг санаарай. Итгэлцэл, итгэлийг бэхжүүлэх нь улам бүр багасч байна. Үлдсэн итгэлийн үлдэгдэл нь ялахад улам хэцүү болж байна AI For Good итгэл амбиц.

Энэхүү хар салхи нь хиймэл оюун ухаанд итгэх итгэлийг оруулаад бүх хөлөг онгоцыг сүйрүүлж байна.

Эдгээр гайхалтай гурван асуултын талаар хэсэг хугацаанд гоймон үзээрэй:

• Түгээмэл нийгэмд бид юу хийж чадах вэ итгэлцлийн асар их уналт AI-ийн тухайд?
• Хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хууль юу ч хийсэн бай, AI нь доод давхарт итгэх итгэлийг хүлээх ёстой юу?
• AI талбарт байгаа хүмүүс хиймэл оюун ухаанд алчуур шидэх ёстой юу?

Таныг асуусанд баяртай байна.

Энэ сэдвийг гүнзгийрүүлэхийн өмнө би эхлээд хиймэл оюун ухаан, ялангуяа хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн талаар зарим чухал суурийг тавьж, хэлэлцүүлгийг контекстийн хувьд оновчтой болгохын тулд үүнийг хийхийг хүсч байна.

Ёс зүйн хиймэл оюун ухаан, мөн хиймэл оюун ухааны тухай хуулийн талаарх мэдлэг нэмэгдэж байна

Хиймэл оюун ухааны сүүлийн үеийн эрин үеийг анхлан үзэж байсан AI For GoodЭнэ нь бид хиймэл оюун ухааныг хүн төрөлхтний сайн сайхны төлөө ашиглах боломжтой гэсэн үг юм. -ийн өсгий дээр AI For Good бид ч бас шимтэж байна гэдгийг ойлгосон AI For Bad. Үүнд ялгаварлан гадуурхах байдлаар зохион бүтээгдсэн эсвэл өөрөө өөрчилсөн хиймэл оюун ухаан багтаж, үндэслэлгүй таамаглалыг бий болгож тооцооллын сонголт хийдэг. Заримдаа хиймэл оюун ухаан нь ийм байдлаар бүтээгдсэн байдаг бол бусад тохиолдолд энэ нь тэрхүү тааламжгүй газар руу чиглэдэг.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа гэдэгт би итгэлтэй байхыг хүсч байна.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид ухаалаг хиймэл оюун ухааны талаар таамаглахыг хүсч байвал энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болох боломжтой гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Би бүх зүйлийг дэлхий дээр үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг анхаарч үзэхийг зөвлөж байна.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

Өнөөгийн хиймэл оюун ухааныг хүн хэлбэрт оруулахдаа маш болгоомжтой байгаарай.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй хэвийх үзлийг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзэх болно гэж найдаж, хүлээх нь зөв юм, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийсэн байдал хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Энэ бүхэн нь хиймэл оюун ухааны ёс зүйд ихээхэн ач холбогдолтой бөгөөд хиймэл оюун ухааныг хуульчлах оролдлого хийх үед (бүх сургамж болохоос өмнө) олж авсан сургамжид хэрэгтэй цонхыг санал болгодог.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна.

Өмнөх булангууддаа би хиймэл оюун ухааныг зохицуулах хууль тогтоомжийг боловсруулах, батлах үндэсний болон олон улсын янз бүрийн хүчин чармайлтыг авч үзсэн. холбоос энд байна, Жишээлбэл. Би мөн янз бүрийн улс орнуудын тодорхойлж, баталсан хиймэл оюун ухааны ёс зүйн янз бүрийн зарчим, удирдамж, тухайлбал, НҮБ-ын хүчин чармайлт, тухайлбал 200 орчим улс орон баталсан хиймэл оюун ухааны ёс зүйн ЮНЕСКО-гийн багц, үзнэ үү. холбоос энд байна.

Миний өмнө нь сайтар судалж үзсэн AI системтэй холбоотой Ёс суртахууны AI шалгуур буюу шинж чанаруудын чухал жагсаалт энд байна.

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Хиймэл оюун ухааны ёс зүйн эдгээр зарчмуудыг AI хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр ч байтугай AI системд засвар үйлчилгээ хийж, гүйцэтгэдэг зарчмуудыг нухацтай ашиглах ёстой.

Хиймэл оюун ухааны хөгжил, ашиглалтын бүх амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн хиймэл оюун ухааны тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг программчлагч нар хиймэл оюун ухааны ёс зүйн ойлголтыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Энд онцлон дурдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг эзэмшиж, дагаж мөрдөх ёстой.

Би бас саяхан шалгаж үзсэн AI эрхийн тухай Билл Энэ нь Шинжлэх ухаан, технологийн бодлогын газрын (OSTP) жилийн турш хийсэн хүчин чармайлтын үр дүнд бий болсон "Хиймэл оюун ухааны эрхийн тухай хуулийн төсөл: Америкийн ард түмэнд автоматжуулсан системийг ажиллуулах нь" нэртэй АНУ-ын засгийн газрын албан ёсны баримт бичгийн албан ёсны гарчиг юм. ). OSTP нь АНУ-ын Ерөнхийлөгч болон АНУ-ын Гүйцэтгэх албанд үндэсний ач холбогдолтой технологи, шинжлэх ухаан, инженерийн янз бүрийн асуудлаар зөвлөгөө өгдөг холбооны байгууллага юм. Энэ утгаараа хиймэл оюун ухааны эрхийн тухай энэхүү Билл нь одоо байгаа АНУ-ын Цагаан ордны зөвшөөрч, баталгаажуулсан баримт бичиг гэж хэлж болно.

AI-ийн эрхийн тухай Билл-д үндсэн таван ангилал байдаг:

• Аюулгүй, үр дүнтэй системүүд
• Алгоритмийн ялгаварлан гадуурхах хамгаалалт
• Мэдээллийн нууцлал
• Мэдэгдэл, тайлбар
• Хүний хувилбарууд, анхаарч үзэх, буцаах

Би эдгээр зарлигийг сайтар нягталж үзсэн холбоос энд байна.

Одоо би хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны хуулийн эдгээр холбоотой сэдвүүд дээр тустай суурийг тавьсан тул бид одоо байгаа уйтгартай асуудлыг судлах гол сэдэв рүү ороход бэлэн байна. итгэлцлийн асар их уналт болон түүний AI-ийн итгэлийн түвшинд үзүүлэх нөлөө.

AI-д итгэх итгэлийг нэмэгдүүлэхийн тулд илүү том завь авах

Энэ сэдвээр өмнө нь тавьсан асуултуудыг дахин авч үзье.

• Түгээмэл нийгэмд бид юу хийж чадах вэ итгэлцлийн асар их уналт AI-ийн тухайд?
• Хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хууль юу ч хийсэн бай, AI нь доод давхарт итгэх итгэлийг хүлээх ёстой юу?
• AI талбарт байгаа хүмүүс хиймэл оюун ухаанд алчуур шидэх ёстой юу?

Би өөдрөг замаар явж, энэ талаар ямар нэг зүйл хийж чадна гэж маргах болно.

Мөн бид алчуураа хаяж болохгүй гэж би хатуу хэлье. Үүний оронд гол зүйл бол AI асуултанд итгэх итгэлийг шийдвэрлэхийн тулд илүү шаргуу, илүү ухаалаг ажиллах явдал юм. Ухаалаг байх гэдэг хэсэг нь бид асар их итгэлцлийн уналтанд орчихоод байгааг ухаарч, энэ макроскоп хүчин зүйлийг ухамсартайгаар авч үзэх явдал юм. Тийм ээ, хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийг баталж, дэмжихийн тулд бидний хийж буй бүх зүйлд анхаарал болгоомжтой хандаж, итгэлийн урсгалын дагуу тохируулаарай.

Өөдрөг эсвэл инээмсэглэлтэй царай сонгохын өмнө би эсрэг тэсрэг байр суурийг санал болгох нь зөв гэж бодож байна. За ингээд яваарай. Их хэмжээний итгэлцлийн уналтын талаар бид юу ч хийж чадахгүй. Тэдний хэлдгээр салхин тээрэм рүү хазайх нь утгагүй юм. Тиймээс, тэмцлээ үргэлжлүүлж, түрлэгт юу ч тохиолдсон, тийм байх болно.

Энэ гунигтай царайны хувилбарт та мөрөн мөрөө хавчиж, түрлэг бол түрлэг гэж бууж өгөхийг санал болгож болно. Хэзээ нэгэн цагт итгэлцлийн асар их уналт суларч, итгэлцлийн уналтын ердийн хэлбэр болно гэж найдаж байна. Дараа нь бага зэрэг азаар итгэлийн уналт гаслан, итгэл эргэж ирэх болно. Тэр ч байтугай бид итгэлцлийн мэдрэмжтэй болж магадгүй юм. Итгэлийн тэсрэлт гэдэг шиг.

Би таны сонголтыг дараах таван сонголтоор ангилах болно.

1) Мэдэхгүй. Эдгээр нь хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн талбарт байдаг өмгөөлөгчид юм. итгэлцлийн асар их уналт. Тэд мэдэхгүй гэдгээ ч мэддэггүй.

2) Мэддэг ч хамаагүй. Эдгээр нь AI-ийн ёс зүй ба хиймэл оюун ухааны тухай хуулийн зөвлөхүүд бөгөөд итгэлцлийн асар их уналтын талаар мэддэг боловч түүнийг сэгсэрдэг. Унаад гар, өөр шинэ зүйл хийх хэрэггүй.

3) Мэдэх ба үүнийг даван туулах. Эдгээр нь AI-ийн ёс зүй ба хиймэл оюун ухааны тухай хуулийн өмгөөлөгчид бөгөөд асар их итгэлцлийн уналтыг мэддэг бөгөөд үүнийг даван туулахаар шийдсэн хүмүүс юм. Тэд мессежээ тохируулдаг; тэд арга барилаа тохируулдаг. Заримдаа энэ нь итгэлцлийн уналтыг AI-д итгэх итгэлийг нэмэгдүүлэх, хариуцлагатай хиймэл оюун ухааныг эрэлхийлэх стратеги, хүчин чармайлтдаа нэгтгэх явдал юм.

4) Мэдэж, санамсаргүйгээр байдлыг улам дордуулдаг. Эдгээр нь AI-ийн ёс зүй ба хиймэл оюун ухааны хуулийн өмгөөлөгчид бөгөөд итгэлцлийн асар их уналтын талаар мэддэг, мөн тэд энэ талаар ямар нэг зүйл хийхээр шийдсэн боловч эцэст нь тэд өөрсдийнхөө хөлийг буудаж байна. Нийгмийн чиг хандлагад зохисгүй хариу үйлдэл үзүүлснээр тэд Хариуцлагатай хиймэл оюун ухааныг муутгаж, хиймэл оюун ухаанд итгэх итгэлийг улам бүр дордуулж байна.

5) Бусад (түр зуур тайлбарлах)

Та эдгээр таван сонголтын аль нь вэ?

Бусад дөрвийн аль нь ч таалагдаагүй эсвэл өөр боломж байгаа бөгөөд жагсаасан боломжуудын аль нь ч таны байр суурийг хангалттай илэрхийлэхгүй гэдэгт чин сэтгэлээсээ итгэдэг хүмүүст би тав дахь сонголтыг зориуд өгсөн.

Та сонголтуудын аль нэгэнд нь тууштай оролцох шаардлагагүй. Би зүгээр л гавъяатай сэдвээр эргэцүүлэн ярилцах зорилгоор сонгон шалгаруулалтыг санал болгож байна. тухай ярих хэрэгтэй их хэмжээний итгэлцлийн уналт, Би итгэдэг. Хариуцлагатай хиймэл оюун ухаан ба итгэмжит хиймэл оюун ухааны хүчин чармайлтын талаар гүнзгий дүн шинжилгээ хараахан хийгдээгүй байгаа бөгөөд энэ нь нийгмийн асар их итгэлцлийн уналттай холбоотой юм.

Эдгээр үерийн хаалгыг нээх цаг болжээ (зүгээр ээ, энэ нь эдгээр тоглоом, үг хэллэгийн талаар хэтэрхий их байж магадгүй юм).

Хэрэв та тав дахь сонголт юу байж болох талаар гайхаж байгаа бол танд сонирхолтой байж болох нэг хувилбар энд байна.

AI онцгой байдал.

AI салбарт хиймэл оюун ухаан нь аливаа зүйлийн ердийн дүрмээс үл хамаарах зүйл гэж үздэг хэсэг байдаг. Эдгээр хиймэл оюун ухаанд онцгой байдлын үзэл баримтлалыг дэмжигчид та нийгмийн бусад шуугианыг хиймэл оюун ухаанд тогтмол хэрэглэж болохгүй гэж баталж байна. AI-д нөлөөлөөгүй, учир нь энэ нь онцгой тохиолдол юм.

Энэ мэт догматик үүднээс авч үзвэл, далайн түрлэг ба хиймэл оюун ухаанд итгэх итгэлийг дээш доош эргэлдэж буй завьтай адилтгаж, цонхоор шиднэ. AI-д итгэх итгэл нь урсгалаас илүү том юм. Итгэлцлийн асар их уналтад юу ч тохиолдсон ч хиймэл оюун ухаанд итгэх итгэл хаашаа ч хамаагүй явах болно. Хэрэв түрлэг дээшлэх юм бол хиймэл оюун ухаанд итгэх итгэл нэмэгдэж эсвэл буурч магадгүй юм. Хэрэв түрлэг буурвал хиймэл оюун ухаанд итгэх итгэл нэмэгдэж эсвэл буурч магадгүй юм. Хиймэл оюун ухаанд итгэх итгэл нь урсгалаас үл хамааран өөрийн гэсэн хувь тавилан, өөрийн хувь тавилан, өөрийн гэсэн замтай байдаг.

Би чамд өөр нэг тохой бий.

Зарим хүмүүс хиймэл оюун ухаан нь бодитойгоор нөлөөлнө гэж маргаж магадгүй юм итгэлцлийн асар их уналт.

Та харж байна уу, энэ хэлэлцүүлгийн үлдсэн хэсэг нь хоцрогдсон гэж таамаглаж байна. Итгэлийн асар их уналт нь хиймэл оюун ухаанд итгэх итгэлд нөлөөлнө гэсэн үг биш, харин эсрэгээрээ. AI-ийн талаар бид юу хийж байгаагаас хамааран итгэлцлийн уналт гүнзгийрэх эсвэл сэргэх магадлалтай. AI-ийн итгэл нь далайн түрлэгийн хувь заяаг шийднэ. Хиймэл оюун ухаан нь далайн түрлэг хэрхэн өрнөхийг тодорхойлоход нар, сар, дэлхийтэй адил хүч чадалтай гэдгийг та баталж чадна гэж бодож байна.

Хэрэв бид хиймэл оюун ухаанд итгэх итгэлийн талуудыг олж, хүмүүс хиймэл оюун ухаанд итгэдэг бол энэ нь итгэлцлийн уналтыг эргүүлж магадгүй юм. Хүмүүс амьдралынхаа бусад бүх зүйлд итгэх итгэлээ өөрчилнө. Тэд хаа сайгүй найдвартай хиймэл оюун ухаантай болсноор засгийн газар, бизнес эрхлэгчид, удирдагчид гэх мэт хүмүүст итгэх итгэлээ нэмэгдүүлж эхэлнэ.

Алс холдсон уу?

Магадгүй магадгүй үгүй.

Таныг уйтгар гунигт автуулахгүйгээр хиймэл оюун ухаанд итгэх итгэлийн эсрэг үзэл бодол бас гарч ирж магадгүй гэдгийг ойлгоорой. Энэ тохиолдолд бид бүгд хиймэл оюун ухаанд бүрэн итгэх итгэлгүй байдалд ордог. Бид маш их итгэлгүй болж, үл итгэх байдал бидний аль хэдийн асар их хэмжээний итгэлцлийн уналтад асгардаг. Энэ нь эргээд итгэлцлийн асар их уналтыг бидний төсөөлж байснаас хэд дахин дордуулсан супер аварга том мега асар их итгэлцлийн уналт болгож байна.

Энэхүү санааг хиймэл оюун ухааныг оршин тогтнох эрсдэл гэж олон янзын ойлголтод оруулаарай. Хэрэв хиймэл оюун ухаан хүн төрөлхтнийг эзэгнэж, биднийг боолчлох юм уу, бүгдийг устгах болно гэсэн асар том эрсдэл биелэх гэж байгаа юм шиг санагдаж эхэлбэл та асар их итгэлцлийн уналтын талаар баттай аргументтай байх нь дамжиггүй. нэлээн бүдүүлэг доошоо спираль.

Би тэрийг нь авдаг.

Юутай ч аз жаргалтай тал руугаа найдъя, тийм үү?

Дүгнэлт

Одоо та итгэлцлийн асар их уналт, AI-ийн итгэлийн талаар та юу хийж чадах вэ?

Нэгдүгээрт, хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн чиглэлээр суралцдаг хүмүүс өөрсдийнхөө тооцоог сайтар бодож үзээрэй. Хариуцлагатай AI болон Трутогтвортой AI итгэлцлийн хямралд орсонтой холбоотой нийгмийн нөхцлөөр дамжуулан эрэл хайгуул. Хиймэл оюун ухаанд итгэх итгэлийг нэмэгдүүлэх таны хүчин чармайлт саад болж байгаа мэт санагдаж, эсвэл таны хүлээж байсан зүйл бүрэн амжилтанд хүрэхгүй байгаа тул сэтгэлээр унахдаа болгоомжтой байх хэрэгтэй. Магадгүй таны хичээл зүтгэл наад зах нь тус болж байгаа ч таны мэдэлгүй итгэлийн ус зайлуулах хоолой таны зоригтой үйл ажиллагааг чимээгүйхэн, харамсалтайгаар хорлон сүйтгэж байна. Цөхрөл бүү зов. Хэрэв итгэлцлийн уналт гараагүй байсан бол та асар их ахиц дэвшил, ер бусын магтууштай үр дүнг харах байсан байж магадгүй юм.

Хоёрдугаарт, бид итгэлцлийн уналтыг хэрхэн хэмжих, мөн хиймэл оюун ухаанд итгэх итгэлийн өсөлт, бууралтыг хэрхэн хэмжих талаар илүү их дүн шинжилгээ хийх хэрэгтэй. Найдвартай, хүлээн зөвшөөрөгдсөн хэмжигдэхүүнгүйгээр бид хичнээн их зай алдаж, олж авсанаа мэдэхгүй далайд сохроор хөвж байна.

Гуравдугаарт, асар их хэмжээний итгэлцлийн уналтаас болж хиймэл оюун ухаанд итгэх итгэл бүрдэж байна гэдгийг ойлгуулах арга замыг авч үзье. Үүнийг цөөхөн хүн мэддэг. AI-ийн мэргэжилтнүүд энэ сэдвийн талаар гүн гүнзгий бодох ёстой. Олон нийтийг ч бас хурдасгах хэрэгтэй. Хоёр мессежийг дамжуулах ёстой. Нэг нь итгэлцлийн асар их уналт юм. Хоёрдугаарт, хиймэл оюун ухаанд итгэх итгэл нь итгэлцлийн уналтаас шалтгаалж байгаа бөгөөд бид үүнийг шууд харгалзан үзэх ёстой.

Эцэст нь хэлэхэд, одоохондоо би таныг загасны савны загасны тухай алдартай онигоог мэддэг гэж төсөөлж байна.

Энэ нь хэрхэн өрнөхийг эндээс харна уу.

Хоёр загас загасны саванд нааш цааш сэлж байна. Эргэн тойронд, эргэн тойрондоо тэд явдаг. Эцэст нь нэг загас нөгөө рүүгээ эргэж, усанд байхаас залхаж байна гэж хэлэв. Бусад загас энэ тайлбарыг тунгаан бодож байна. Хэдхэн агшин зуурын дараа ухаантай загас сониуч зангаар "Ус гэж юу юм бэ?"

Энэ бол арай эртний хошигнол юм.

Таны эргэн тойронд байгаа бүх зүйл хэнд ч танигдахгүй байж магадгүй гэдгийг онцолсон байх ёстой. Та үүнд дасдаг. Зүгээр л тэнд байгаа. Та үүнийг анзаардаггүй, учир нь энэ нь хаа сайгүй байдаг бөгөөд түүний оршихуйн хувьд онцгүй (Зарим онигоонууд жинхэнэ загасыг усанд байгаа гэдгээ мэддэг, "танин мэдэхүйн хувьд" ойлгодог гэж шаарддаг тул хошигнолд дургүй байдаг гэдгийг би энд дурьдах болно. ” гэх мэт, үүнд уснаас агаарт үсрэх боломжтой гэх мэт).

Тохиромжтой загасны үлгэр эсвэл сургаалт зүйрлэл болгон бид итгэлцлийн асар их уналтад орчихоод байгаагаа анзаарахгүй байхын тулд энэхүү ашигтай данди зүйрлэлийг ашиглаж болно. Энэ нь бидний эргэн тойронд байдаг бөгөөд бид үүнийг дотоод сэтгэлээр мэдэрдэг боловч энд байгааг ухамсартайгаар ойлгодоггүй.

Сохорыг тайлах цаг болжээ.

Гүнзгий амьсгаа аваад, бидний итгэлцлийн асар их уналт байгаа тул амьсгалаа аваарай. Хариуцлагатай хиймэл оюун ухааныг төлөвшүүлэх, хиймэл оюун ухаанд итгэх итгэлийг бий болгохын тулд өдөр ирэх тусам хичээж буй та нарын хувьд итгэлийн уналт таны зоригтой хүчин чармайлтанд хэрхэн нөлөөлж байгааг хараарай.

Шекспирийн хэлснээр: "Бид урсгалыг үйлчлэх үед нь авах ёстой, эс тэгвээс хөрөнгө оруулалтаа алдах ёстой."