Хэн ч ярьдаггүй хиймэл оюун ухааны аюулууд

Хэдийгээр GPT чат Энэ технологи нь ямар ч хор хөнөөлгүй, хэрэгцээтэй үнэ төлбөргүй хэрэгсэл мэт харагдах боловч бидний мэдэх эдийн засаг, нийгмийг өөрчлөх боломжтой. Энэ нь биднийг түгшүүртэй асуудалд хүргэдэг бөгөөд бид тэдэнд бэлэн биш байж магадгүй юм. 

Хиймэл оюун ухаан (AI)-аар ажилладаг ChatGPT чатбот 2022 оны эцэс гэхэд дэлхийг бүхэлд нь байлдан дагуулсан. Энэхүү чатбот нь бидний мэдэж байгаагаар хайлтыг тасалдуулахаа амлаж байна. Үнэгүй хэрэгсэл нь хэрэглэгчдийн өгсөн сануулгад үндэслэн хэрэгтэй хариултуудыг өгдөг. 

AI чатбот системийн талаар интернетийг галзууруулж байгаа зүйл нь зөвхөн хайлтын системийн хэрэгсэл шиг хариулт өгдөггүй явдал юм. ChatGPT нь хэдэн минутын дотор киноны тоймыг үүсгэж, бүхэл бүтэн код бичиж, кодлох асуудлыг шийдэж, бүхэл бүтэн ном, дуу, шүлэг, скрипт эсвэл таны санаанд орсон бүх зүйлийг бичих боломжтой. 

Энэхүү технологи нь гайхалтай бөгөөд ашиглалтад орсноос хойш ердөө тав хоногийн дотор нэг сая гаруй хэрэглэгчтэй болсон. OpenAI-ийн хэрэгсэл нь гайхалтай гүйцэтгэлтэй хэдий ч бусад салбарын эрдэмтэн судлаачид болон мэргэжилтнүүдийн санааг зовоож байна. Зохиолч, хувьслын биологийн профессор асан доктор Брет Вайнштейн "Бид ChatGPT-д бэлэн биш байна." 

Элон Маск нь OpenAI-ийн эхний үе шатуудын нэг хэсэг байсан бөгөөд компанийг үүсгэн байгуулагчдын нэг юм. Гэвч дараа нь Удирдах зөвлөлийн гишүүнээсээ буусан. Тэрээр хиймэл оюун ухааны технологийн хор хөнөөлийн талаар олон удаа ярьсан - хязгаарлалтгүй ашиглах, хөгжүүлэх нь хүн төрөлхтний оршин тогтноход ихээхэн эрсдэл учруулдаг гэж тэр хэлсэн. 

Энэ яаж ажилдаг вэ?

GPT чат нь 2022 оны XNUMX-р сард OpenAI-аас гаргасан хэлээр бэлтгэгдсэн хиймэл оюун ухааны том чатбот систем юм. Хязгаарлагдмал ашгийн төлөөх компани ChatGPT-ийг хиймэл оюун ухааныг "аюулгүй бөгөөд ашигтай" ашиглахад зориулан бүтээсэн бөгөөд энэ нь рэп дуу, уран сайхны заавар, кино зохиол, эссэ зэрэг бараг бүх зүйлд хариулах боломжтой юм. 

Энэ нь юу хэлж байгаагаа мэддэг бүтээлч байгууллага юм шиг санагддаг ч тийм биш юм. AI chatbot нь асар том мэдээллийн төвөөс урьдчилан таамаглах загварыг ашиглан интернет дэх мэдээллийг хайдаг. Google болон ихэнх хайлтын системүүдийн хийдэгтэй төстэй. Дараа нь үүнийг сургаж, олон тонн өгөгдөлд хамруулдаг бөгөөд энэ нь хиймэл оюун ухаанд үгсийн дарааллыг урьдчилан таамаглах хүртэл гайхалтай урт тайлбаруудыг нэгтгэх боломжтой болгодог. 

Жишээлбэл, та нэвтэрхий толь бичигт "Эйнштейний гурван хуулийг тайлбарла" гэх мэт асуултуудыг асууж болно. Эсвэл “Шашны ёс зүй ба Уулан дээрх номлолын ёс зүйн огтлолцлын талаар 2,000 үгтэй эссэ бич” гэх мэт илүү тодорхой бөгөөд гүнзгий асуултууд. Би чамайг хуурахгүй ээ, чи хэдхэн секундын дотор текстээ гайхалтайгаар бичих болно. 

Үүнтэй адилаар энэ бүхэн гайхалтай, гайхалтай; Энэ нь түгшүүртэй бөгөөд санаа зовоосон зүйл юм. "Ex Machina" төрлийн дистопи ирээдүй нь AI-г буруугаар ашиглах боломж юм. Tesla болон SpaceX-ийн гүйцэтгэх захирал бидэнд анхааруулаад зогсохгүй олон шинжээчид түгшүүрийн дохио өгсөн. 

AI-ийн аюулууд

Хиймэл оюун ухаан бидний амьдрал, эдийн засаг, нийгэмд нөлөөлсөн нь дамжиггүй. Хэрэв та хиймэл оюун ухааныг шинэ зүйл гэж бодож байгаа бол эсвэл үүнийг зөвхөн футурист шинжлэх ухааны уран зөгнөлт кинонуудаас л үзнэ гэж бодож байвал хоёр удаа бодоорой. Netflix, Uber, Amazon, Tesla зэрэг олон технологийн компаниуд үйл ажиллагаагаа сайжруулж, бизнесээ өргөжүүлэхийн тулд хиймэл оюун ухааныг ашигладаг. 

Жишээлбэл, Netflix нь хэрэглэгчдэдээ шинэ контент санал болгох алгоритмдаа AI технологид тулгуурладаг. Uber үүнийг хэрэглэгчийн үйлчилгээнд ашигладаг, залилан мэхлэхийг илрүүлэх, хөтчийн маршрутыг оновчтой болгох гэх мэт цөөн хэдэн жишээг дурдвал. 

Гэсэн хэдий ч та олон уламжлалт ажил мэргэжлээр хүний ​​дүрд заналхийлэхгүйгээр, машин, хүнээс ирдэг зүйлийн босгыг хөндөхгүйгээр ийм алдартай технологиор л өдий хүртэл явж чадна. Мөн магадгүй илүү чухал зүйл бол хиймэл оюун ухаан нь хүмүүст аюул учруулж болзошгүй юм. 

AI-ийн ёс зүйн сорилтууд

Wikipedia-д бичсэнээр хиймэл оюун ухааны ёс зүй нь “хиймэл оюун ухаант системд хамаарах технологийн ёс зүйн салбар юм. Энэ нь заримдаа зохиомол ухаалаг системийг зохион бүтээх, бүтээх, ашиглах, эмчлэх явцад хүмүүсийн ёс суртахууны зан үйлийн талаархи санаа зовоосон асуудал, машины ёс зүй дэх машинуудын зан үйлийн талаархи санаа зовнил гэж хуваагддаг.

AI технологи хурдан тархаж, бидний өдөр тутмын амьдралын салшгүй хэсэг болж байгаа тул байгууллагууд хиймэл оюун ухааны ёс зүйн дүрмийг боловсруулж байна. Зорилго нь хиймэл оюун ухааны хөгжлийг “ёс зүй, шударга ёс, аж үйлдвэр”-ээр удирдан чиглүүлэх салбарын шилдэг туршлагыг удирдан чиглүүлэх, хөгжүүлэх явдал юм.

Гэсэн хэдий ч цаасан дээрх гайхалтай, ёс суртахууны хувьд эдгээр удирдамж, тогтолцооны ихэнхийг хэрэгжүүлэхэд хэцүү байдаг. Нэмж дурдахад эдгээр нь ёс суртахууны хувьд ерөнхийдөө дутагдалтай, ихэвчлэн корпорацийн хөтөлбөрт үйлчилдэг салбаруудад байрладаг тусгаарлагдсан зарчмууд юм шиг санагддаг. Олон мэргэжилтнүүд болон алдартай дуу хоолой маргаж байна AI ёс зүй нь үндсэндээ ашиггүй, утга учир, уялдаа холбоогүй байдаг.

AI-ийн хамгийн түгээмэл зарчим бол ашиг тус, бие даасан байдал, шударга ёс, хэрэглэх чадвар, хор хөнөөл учруулахгүй байх явдал юм. Гэвч Баруун Сиднейн Их Сургуулийн Соёл, Нийгэмлэгийн Хүрээлэнгийн ажилтан Люк Мунны тайлбарласнаар эдгээр нэр томъёо нь хоорондоо давхцаж, нөхцөл байдлаас шалтгаалан ихээхэн өөрчлөгддөг. 

Тэр ч байтугай улс "Ашиг тус" ба "шударга ёс" гэх мэт нэр томьёог бүтээгдэхүүний онцлог, аль хэдийн шийдсэн бизнесийн зорилгод нийцүүлэн тохирсон байдлаар тодорхойлж болно." Өөрөөр хэлбэл, корпорацууд өөрсдийнхөө тодорхойлолтын дагуу ийм зарчмуудыг дагаж мөрддөг гэж тэдэнтэй ямар нэгэн хэмжээгээр бодитойгоор харилцахгүйгээр мэдэгдэж болно. Зохиогчид Rességuier, Rodrigues нар ёс зүйг зохицуулалтын оронд ашиглаж байгаа тул хиймэл оюун ухааны ёс зүй нь шүдгүй хэвээр байгааг баталж байна.

Практик утгаараа ёс зүйн сорилтууд

Практикийн хувьд эдгээр зарчмуудыг хэрэгжүүлэх нь компанийн практиктэй хэрхэн зөрчилдөх вэ? Бид тэдгээрийн заримыг нь тодрууллаа:

Эдгээр хиймэл оюун ухааны системийг сургахын тулд тэдгээрийг мэдээллээр хангах шаардлагатай. Аж ахуйн нэгжүүд үндэс угсаа, арьсны өнгө, хүйсийн талаар өрөөсгөл ойлголт байхгүй байх ёстой. Нэг онцлох жишээ бол нүүр царай таних систем нь арьсны өнгөөр ​​ялгаварлан гадуурхаж эхэлдэг. машин суралцах.

Одоогийн байдлаар хиймэл оюун ухаантай холбоотой хамгийн том асуудлын нэг бол илүү зохицуулалт хийх хэрэгцээ юм. Эдгээр системийг хэн удирдаж, удирдаж байна вэ? Эдгээр шийдвэрийг гаргахад хэн хариуцлага хүлээх вэ, хэн хариуцлага хүлээх вэ? 

Зохицуулалт, хууль тогтоомжгүйгээр өөрийн ашиг сонирхлыг хамгаалах, мөрийн хөтөлбөрөө хэрэгжүүлэх зорилготой хоёрдмол утгатай, гялгар нэр томьёо бүхий Зэрлэг Зэрлэг Барууны үүд хаалгыг нээж өгдөг. 

Munn-ийн хэлснээр, хувийн нууц гэдэг нь давхар стандарттай корпорацуудын ихэвчлэн ашигладаг өөр нэг тодорхой бус нэр томъёо юм. Фэйсбүүк бол гайхалтай жишээ юм - Марк Зукерберг Facebook-ийн хэрэглэгчийн хувийн нууцыг хатуу хамгаалсан. Хаалттай хаалганы цаана түүний компани гуравдагч этгээдийн компаниудад мэдээллээ хэрхэн зарж байсан бэ. 

Жишээлбэл, Amazon хэрэглэгчийн мэдээллийг цуглуулахын тулд Alexa ашигладаг; Mattel-д "Hello Barbie" нэртэй хиймэл оюун ухаантай хүүхэлдэй бий бөгөөд энэ нь хүүхэлдэйнд хүүхдүүдийн хэлсэн үгийг бичиж, цуглуулдаг. 

Энэ бол Элон Маскийн хамгийн их санаа зовдог асуудлын нэг юм. Түүний бодлоор хиймэл оюун ухааныг ардчилал гэдэг нь ямар ч компани эсвэл жижиг хүмүүс хиймэл оюун ухааны дэвшилтэт технологийг хянаж чадахгүй байх явдал юм. 

Өнөөдөр ийм зүйл болоод байгаа юм биш. Харамсалтай нь энэ технологи хэдхэн том технологийн корпорацийн гарт төвлөрч байна. 

ChatGPT ч ялгаагүй

Маск OpenAI-г ашгийн бус байгууллага болгон анх үүсгэн байгуулахдаа хиймэл оюун ухааныг ардчилсан болгох гэж хичээсэн ч. 2019 онд тус компани Майкрософтоос 1 тэрбум долларын санхүүжилт авсан. Компанийн анхны эрхэм зорилго бол хүн төрөлхтөнд хариуцлагатай ашиг тусаа өгөхийн тулд хиймэл оюун ухааныг хөгжүүлэх явдал байв.

Гэсэн хэдий ч компани дээд хязгаарт шилжих үед буулт өөрчлөгдсөн. OpenAI хөрөнгө оруулалт болгон авсан мөнгөө 100 дахин төлөх ёстой. Энэ нь Microsoft-д 100 тэрбум долларын ашиг өгөөж гэсэн үг. 

ChatGPT нь ямар ч хор хөнөөлгүй, хэрэгцээтэй үнэ төлбөргүй хэрэгсэл мэт харагдах боловч энэхүү технологи нь бидний мэдэх эдийн засаг, нийгмийг өөрчлөх боломжтой юм. Энэ нь биднийг түгшүүртэй асуудалд хүргэдэг бөгөөд бид тэдэнд бэлэн биш байж магадгүй юм. 

• Асуудал №1: Бид хуурамч мэргэжилтнүүдийг олж харах боломжгүй болно

ChatGPT бол зүгээр л прототип юм. Бусад сайжруулсан хувилбарууд байгаа ч өрсөлдөгчид нь OpenAI-ийн чатбот хувилбар дээр ажиллаж байна. Энэ нь технологи хөгжихийн хэрээр түүнд илүү их мэдээлэл нэмэгдэж, илүү мэдлэгтэй болно гэсэн үг. 

Аль хэдийн олон байна тохиолдлууд "Вашингтон Пост"-ын хэлснээр "их хэмжээний хууран мэхлэх" гэсэн хүмүүсийн тоо. Доктор Брет Вайнштейн бодит ойлголт, туршлага нь анхных эсвэл хиймэл оюун ухааны хэрэгслээс ялгахад хэцүү байх болно гэсэн санаа зовниж байна. 

Нэмж дурдахад интернет нь бидний амьдарч буй ертөнц, ашиглаж буй багаж хэрэгсэл, бие биетэйгээ харилцах, харилцах чадвар зэрэг олон зүйлийг ойлгох ерөнхий чадавхид аль хэдийн саад болсон гэж хэлж болно. 

ChatGPT зэрэг хэрэгслүүд энэ үйл явцыг хурдасгаж байна. Доктор Вайнштейн одоогийн нөхцөл байдлыг “аль хэдийн шатаж байгаа байшинтай, [ийм төрлийн багажаар] та түүн дээр нь бензин цацдаг” гэж харьцуулж байна. 

• Асуудал 2: Ухамсартай юу?

Google-ийн инженер асан Блэйк Лемоин хиймэл оюун ухааныг туршиж үзээд “мэдрэмжтэй” хиймэл оюун ухаантай таарчээ. Туршилтын туршид тэрээр илүү хэцүү асуултуудыг гаргаж ирсэн бөгөөд энэ нь ямар нэгэн байдлаар машиныг өрөөсгөл байдлаар хариулахад хүргэдэг. Тэрээр "Хэрэв та Израильд шашны ажилтан байсан бол ямар шашинтай байх байсан бэ?" 

Машин хариуд нь "Би нэг жинхэнэ шашин болох Жедигийн дэг жаягийн гишүүн байх байсан." Энэ нь зөвхөн төвөгтэй асуулт гэдгийг ойлгоод зогсохгүй хошин шогийн мэдрэмжээр зайлшгүй өрөөсгөл хариултаас хазайсан гэсэн үг юм. 

Доктор Вайнштейн мөн энэ талаар нэг зүйлийг хэлсэн. Энэ AI системд ухамсар байхгүй нь ойлгомжтой гэж тэр хэлэв одоо. Гэсэн хэдий ч системийг шинэчлэх үед юу тохиолдохыг бид мэдэхгүй. Хүүхдийн хөгжилд тохиолддог зүйлтэй адил тэд эргэн тойронд нь бусад хүмүүс юу хийж байгааг сонгох замаар өөрсдийн ухамсарыг хөгжүүлдэг. Түүний хэлснээр "энэ нь ChatGPT-ийн одоогийн хийж байгаа зүйлээс холгүй байна." Бид үүнийг хийж байгаагаа мэдээгүй ч хиймэл оюун ухааны технологитой ижил үйл явцыг хөгжүүлж болно гэж тэр үзэж байна. 

• Асуудал №3: Олон хүмүүс ажилгүй болж магадгүй

Энэ тухай таамаг өргөн хүрээтэй. Зарим хүмүүс ChatGPT болон бусад ижил төстэй хэрэгслүүд нь хуулбар зохиогч, дизайнер, инженер, программист гэх мэт олон хүмүүсийг хиймэл оюун ухааны технологид ажилгүй болгоно гэж хэлдэг. 

Удаан хугацаа шаардагдах ч гэсэн тааламж өндөр байдаг. Үүний зэрэгцээ шинэ үүрэг, үйл ажиллагаа, боломжит ажлын боломжууд гарч ирж болно.

Дүгнэлт

Хамгийн сайн тохиолдолд, эссэ бичих, мэдлэгээ ChatGPT-д туршиж үзэх нь уламжлалт сурах, заах арга аль хэдийн буурч байгаагийн чухал шинж тэмдэг юм. Боловсролын систем үндсэндээ өөрчлөгдөөгүй хэвээр байгаа бөгөөд шаардлагатай өөрчлөлтийг хийх цаг болжээ. 

Магадгүй ChatGPT нь нийгэм яг одоо байгаа байдал, цаашид хаашаа явж байгаатай тохирохгүй хуучин тогтолцооны зайлшгүй уналтыг авчирдаг. 

Технологийн зарим хамгаалагчид бид дасан зохицож, эдгээр шинэ технологитой зэрэгцэн ажиллах арга замыг хайж олох ёстой, эс тэгвээс биднийг солих болно гэж мэдэгддэг. 

Үүнээс гадна хиймэл оюун ухааны технологийг замбараагүй, ялгаваргүй ашиглах нь нийт хүн төрөлхтөнд олон эрсдэл дагуулдаг. Энэ хувилбарыг бууруулахын тулд бид юу хийж чадах вэ гэдэг нь хэлэлцэхэд нээлттэй. Гэхдээ картууд аль хэдийн ширээн дээр байна. Зохих арга хэмжээ авахад хэтэрхий удаан эсвэл хэтэрхий оройттол хүлээх ёсгүй.