Элон Маск ямар ч үед үнэн зөв байх "TruthGPT" хэмээх хиймэл хиймэл оюун ухааны чатыг амжилттай хөгжүүлж чадах уу гэж хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны хуулиас асуув

Бүхээгийн хаалгыг тогшиж байна.

Бид хаалгыг онгойлгох ёстой юу?

Кинонууд ихэвчлэн бидний сониуч зан биднийг илүү сайн болгохгүй байх, тухайлбал бид хэзээ ч хаалгаа онгойлгох ёсгүй гэж зөвлөдөг. Ингэж хэлэхэд хаалгыг нь хааж орхих нь тийм ч сайн үлгэр биш бололтой. Бид сэтгэлийн хөөрөл, үл мэдэгдэх зүйл рүү татагдсан юм шиг санагддаг.

За, цаашаа явж, хаалгаа нээцгээе.

Энэ тохиолдолд би хиймэл оюун ухааны (AI) салбарт шинээр гарч ирж буй зарим нэг сэхээтнүүдийн тухай ярьж байна, энэ нь бидний сайн сайхан цаг эсвэл хамгийн муу цагийг зөгнөдөг. Нөхцөл байдал нь хиймэл оюун ухааны ирээдүйтэй холбоотой байж магадгүй юм. Хиймэл оюун ухааны ирээдүй нь нийгмийн ирээдүй, хүн төрөлхтний хувь заяаг дүрслэн харуулах гэх мэт нэлээд гайхалтай үр дагаврыг хамарна гэж хэн нэгэн хүн таамаглаж болно.

Энэ бол хэлэлцээ.

Сүүлийн үеийн мэдээлснээр, тухайн үеийн дэлхийн хамгийн баян хүн байсан Элон Маск хиймэл оюун ухааны чиглэлээр мэргэшсэн шилдэг судлаачдыг өөрийн санаачилсан хиймэл оюун ухааны шинэ бизнесийг эхлүүлэхээр хөөцөлдөж байна. Төрөл бүрийн AI хөгжүүлэгчид болон хиймэл оюун ухааны эрдэмтэдтэй чимээгүйхэн ойртож байна. Тэдний хаалгыг тогших нь асар их амлалт, ашигтай мэдээг өгдөг бололтой.

Одоогоор ил болоогүй байгаа хиймэл оюун ухааны санаачилгын мөн чанар нь XNUMX-р сард OpenAI-аас гаргасан өргөн дэлгэр, нэн алдартай ChatGPT-ийн цоо шинэ хувилбар гэж үздэг. Та ChatGPT-ийн талаар шуугиан дэгдээсэн гарчигны талаар бараг сонссон эсвэл харсан байх. Би ChatGPT гэж юу болох талаар илүү дэлгэрэнгүй тайлбарлах болно. ChatGPT нь хиймэл оюун ухааны нэг төрлийн жишээ гэдгийг та бас мэдэж байх ёстой Үүсгэх хиймэл оюун ухаан. Өнөө үед хиймэл оюун ухааны олон төрлийн програмууд хөвж байна. ChatGPT нь олон нийтэд хамгийн их танигдсан нэгэн бөгөөд агуйд амьдардаг хүмүүст хүртэл мэддэг бололтой.

Хагас нууцлагдмал хурдан гарч ирж буй энэхүү үлгэрийн тухай мэдээлэх жишээ энд байна.

• "Илон Маск сүүлийн хэдэн долоо хоногт хиймэл оюун ухааны судлаачдад хандсан бөгөөд OpenAI стартапын бүтээсэн өндөр түвшний чатбот ChatGPT-ийг өөр хувилбараар боловсруулахаар шинэ судалгааны лаборатори байгуулахаар хандсан гэж энэ талаар шууд мэдээлэлтэй хоёр хүн, гуравдагч хүн танилцуулав. ярианууд дээр" (Мэдээлэл, “Fighting 'Woke AI',' Musk Recruits Team to develop OpenAI Rival”, Jon Victor, Jessica E. Lessin, 27 оны 2023-р сарын XNUMX).

Таны хамгийн түрүүнд бодож байгаа зүйл бол Элон Маск ChatGPT програмыг ашиглахыг хүсч байгаа бол энэ нь түүнд болон мөнгөө хэрхэн зарцуулахаас хамаарна. Амжилт хүсье. Тэр зүгээр л одоо байгаа бөгөөд улам бүр өсөн нэмэгдэж буй хиймэл хиймэл оюун ухааны програмуудыг нэмэх болно. Магадгүй тэр ChatGPT-ийн өөрийн төрөлх хувилбараас нэмэлт хөрөнгө олох болно. Эсвэл энэ нь маш том хо-хум байж магадгүй бөгөөд даруухан үнэтэй хөөцөлдсөний улмаас асар их баялагт нь өчүүхэн хонхорхой гарсан нь нягтлан бодох бүртгэлийн хэлтэст гарсан алдаатай адил байх болно.

Энэ нь хаалгыг хүчтэй тогшихын оронд хаалгыг тогших, тогших гэх мэт.

Эргэлтэнд бэлэн байгаарай.

Элон Маск өнөөгийн хиймэл оюун ухааны программуудын үндсийг сэгсэрч, тэдгээр нь хэрхэн ажилладаг, юу үйлдвэрлэдэг зэрэг чухал талуудыг дахин бүрдүүлэхийг хүсч байгаа гэдэгт итгэлтэй байна. Би энд удахгүй тайлбарлах болно, одоогийн үүсгэгч AI-ийн талаархи нийтлэг бөгөөд үнэнч эргэлзээ бол алдаа, худал хуурмаг байдал, хиймэл оюун ухаан гэж нэрлэгддэг хий үзэгдэл үүсгэдэг. Хиймэл оюун ухааныг ашигласан хэн бүхэн ийм сэтгэл түгшээсэн асуудлуудтай тулгарсан нь дамжиггүй. Элон Маск ийм төрлийн гажуудал, асуудалтай хандлагыг багасгаж, ямар нэгэн байдлаар арилгах гэж найдаж байгаа бололтой.

Энэ нь үнэ цэнэтэй, нэр хүндтэй хүсэл эрмэлзэл мэт санагдаж байна. Үнэн хэрэгтээ, хиймэл оюун ухааны бүх бүтээгчид алдаа, худал хуурмаг байдал, хиймэл оюун ухааны хий үзэгдэл гарах магадлалыг бууруулахын тулд маш их хичээж байна гэж би хэлж чадна гэдгийг мэдэж аваарай. Эдгээр алдаа, худал хуурмаг, хиймэл оюун ухааны хий үзэгдэл зэргийг үүсгэгч хиймэл оюун ухаанд шингээж үлдээхийг шаардах ямар нэгэн үндэслэлтэй сүнсийг олоход танд хэцүү байх болно.

Хэтэрхий дэлгэрэнгүй тайлбар хийхгүйгээр алдаа, худал хуурмаг, хиймэл хиймэл хий үзэгдэл үүсгэдэг хиймэл хиймэл оюун ухааны эмгэгийг тууштай, тууштай, хатуу шийдвэрлэх ёстой гэдэгтэй бараг бүх нийтийн санал нэг байна. Зорилго нь хиймэл оюун ухааныг тохируулах, шинэчлэх, боловсронгуй болгох, их засвар хийх, эсвэл нэг эсвэл өөр аргаар энэ асуудлыг шийдэж, шийдвэрлэх явдал юм.

Хиймэл оюун ухаан нь алдаа, худал хуурмаг, хиймэл оюун ухааны хий үзэгдэл зэргийг гаргасаар байгаа өдөр бүр бараг бүх хүмүүсийн хувьд муу өдөр юм. Хиймэл оюун ухаан ашигладаг хүмүүс эдгээр бохир гаралтад сэтгэл дундуур байх нь гарцаагүй. Бохирдсон гаралтад найдах эсвэл ашиглах шаардлагатай хүмүүс ямар нэг буруу зүйлээс шалтгаалж андуурч болзошгүй эрсдэлтэй байдаг.

Хиймэл оюун ухаанаас бизнес эрхлэхийг оролдож буй хиймэл оюун ухаан үйлдвэрлэгчид бохирдсон үр дүнд тулгуурласнаас болж хууль эрх зүйн эрсдэлд ордог. Нэхэмжлэгдсэн хохирлоо барагдуулах зарга бараг л удахгүй гарах нь. Зохицуулагчид үүнд анхаарлаа хандуулах болно гэж бид таамаглаж магадгүй бөгөөд хиймэл хиймэл оюун ухаанд хууль эрх зүйн зохицуулалт хийх зорилгоор хиймэл оюун ухааны шинэ хуулиуд батлагдах болно, миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна. Нэмж дурдахад, хүмүүс эцэст нь хиймэл оюун ухааныг бүтээгчдийн нэр хүнд маш ихээр унаж, хиймэл хиймэл оюун ухаан нэг дор унадаг тул маш их бухимдаж магадгүй юм.

За ингээд хиймэл оюун ухаан бүтээгчид болон судлаачид хиймэл оюун ухааныг бүтээгчид болон судлаачид өнөөгийн хиймэл оюун ухааны өвчлөлтэй холбоотой эдгээр аймшигт өвчнөөс ангижрахын тулд хиймэл оюун ухааны технологийн шидтэнг зохион бүтээх, зохион бүтээх, бүтээх, хэрэгжүүлэх гэж улайран хичээж байгаа нь зоригтой үнэн гэдгийг бид мэднэ. Элон Маскыг уг албанд хүлээн зөвшөөрөх ёстой. Олуулаа байх тусмаа дээр. Энэ араатныг номхотгохын тулд маш их хиймэл оюун ухаан, мөнгө хэрэгтэй болно. Элон Маскыг нэмэх нь зөв хэмжээний пуужингийн шинжлэх ухаан, бэлэн мөнгө, шийдэмгий байдал нь хиймэл оюун ухааныг бүгдийг нь эмчилнэ гэсэн өөдрөг, урам зоригтой шинж тэмдэг мэт санагдаж байна.

Хэдийгээр та тэнд юу байгааг харахын тулд хаалгыг онгойлгож эхлэхэд эргэлт гарч ирдэг.

17 оны 2023-р сарын XNUMX-нд болсон Элон Маскийн ердийн бөгөөд товч жиргээнээс бид ийм таамаглалыг олж авлаа.

• "Бидэнд хэрэгтэй зүйл бол TruthGPT"

Энэ нь зарим нэгнийх нь хаалгыг хүчтэй хааж, хадаж хаах хэрэгтэй болов уу гэж бодоход хүргэдэг.

Яагаад ийм?

Зарим хүмүүсийн санаа зовниж буй зүйл бол TruthGPT-ийн төсөөлж буй "үнэн" нь үүсгүүрийн хиймэл оюун ухаан байж болох бөгөөд энэ нь гагцхүү гагцхүү утгыг задлахад тулгуурлан гаралт үүсгэдэг. үнэн Энэ нь нэг хүний ​​ертөнцийг үзэх үзэлтэй яг таарч байна. Тийм ээ, гар бичмэл нь бид Илон Маскийн хэлснээр үнэнийг ялгаруулдаг хиймэл хиймэл оюун ухааны програмыг авах болно.

Санаа зовоож байна гэж зарим нь хэлж байна.

Зоригтой, бүхэлдээ түгшүүртэй, зарим нь ухуулж байна.

Шууд хариу хэлэх зүйл бол хэрэв тэр TruthGPT-ээ гаргахыг хүсч байвал энэ нь юунаас ч үл хамааран түүнд зарцуулах мөнгө юм. Хүмүүс үүнийг ашиглахыг сонгох эсвэл ашиглахгүй байх болно. Үүнийг ашигладаг хүмүүс өөрсдийгөө юунд хүргэж байгаагаа ойлгох хангалттай ухаалаг байх ёстой. Хэрэв тэд Илон Маскийн ертөнцийг үзэх үзэлд тулгуурласан хиймэл хиймэл оюун ухааны тодорхой хувилбараас гаргалгаа авахыг хүсч байвал энэ нь тэдний эрэлхийлэх эрх юм. Түүхийн төгсгөл. Үргэлжлүүл.

Өө, сөрөг маргаан гарч байна, та хүмүүсийг аймшигтай, аймшигтай урхинд оруулж байна. TruthGPT бол Элон Маскийн боловсруулсан хиймэл хиймэл оюун ухааны програм гэдгийг ойлгохгүй хүмүүс байх болно. Тэд энэхүү үүсмэл хиймэл оюун ухааныг дээд талд байгаа гэж бодох сэтгэцийн урхинд орох болно. Үнэн хэрэгтээ, хэрэв нэршил нь "TruthGPT" (эсвэл үүнтэй төстэй) хэвээр байвал та үүнийг байгалийн хиймэл хиймэл оюун ухаан гэдэгт итгэх нь мэдээжийн хэрэг. туйлын үнэн гаргасан эссэ болон бичвэрт нь хэлэх.

Нийгмийн хувьд бид сэжиггүй хүмүүсийг ийм урхинд оруулахгүй байх ёстой гэж тэд анхааруулах болно.

Энэхүү таамагласан шинж чанартай хиймэл хиймэл хиймэл аппликейшн дээр хөвж, бүх төрлийн хүмүүс ашиглахыг зөвшөөрөх нь эмх замбараагүй байдал үүсгэх болно. Гарсан эссэг нь алдаа, худал хуурмаг, хиймэл хиймэл хий үзэгдэл, янз бүрийн таагүй хандлагаар дүүрэн байсан ч хүмүүс энэхүү TruthGPT-ийн үр дүнг ариун "үнэн" гэж тайлбарлах болно. Цаашилбал, үүсгэсэн AI-ийн энэ хувилбарт алдаа, худал хуурмаг, хиймэл хиймэл хий үзэгдэл байхгүй гэж мэдэгдэж байсан ч цэвэршүүлсэн мэт санагдах хиймэл оюун ухаан нь буруу ташаа мэдээлэл, далд мэдээлэл, буруу ташаа ойлголтыг хадгалахгүй гэдгийг бид яаж мэдэх вэ? ташаа мэдээлэл?

Та шар айраг исгэх маргаан, эргэлзээг харж болно гэж би бодож байна.

Чөлөөт зах зээлийн үндсэн дээр Элон Маск өөрийн хүссэн ямар ч төрлийн хиймэл хиймэл оюун ухааныг бүтээх чадвартай байх ёстой. Бусад хүмүүс түүний "үнэн" гэсэн хувилбарыг үл тоомсорлож магадгүй учраас энэ нь түүнийг цааш явахад нь саад болохгүй. Түүнийг ажлаа хийгээч. Магадгүй хэн нэгэн үүнийг ашиглахдаа юу ажиллуулахыг хүсч байгаагаа мэдэгдэхийн тулд анхааруулах мессеж эсвэл өөр мэдэгдлийг оруулах хэрэгтэй. Гэсэн хэдий ч хүмүүс өөрсдийн үйлдлийнхээ төлөө хариуцлага хүлээх ёстой бөгөөд хэрэв тэд TruthGPT ашиглахаар шийдсэн бол тийм байх ёстой.

Хэсэг хүлээгээрэй, дахиад нэг хариу үйлдэл хийнэ. Хэн нэгэн хорон муу үйлд зориулагдсан хиймэл хиймэл оюун ухааны программ зохиосон гэж бодъё. Хүмүүсийг төөрөгдүүлэх зорилготой байсан. Хүмүүсийг бухимдуулж, турхирна гэсэн итгэл найдвар байсан. Нийгэм бид ийм төрлийн хиймэл хиймэл оюун ухааныг хүлээн зөвшөөрөх үү? Хүмүүсийг өдөөн хатгаж, сэтгэцийн эрүүл мэндэд нь сөргөөр нөлөөлж, сөрөг үйлдлүүдийг өдөөж болзошгүй хиймэл оюун ухааны програмуудыг бид зөвшөөрөхийг хүсч байна уу?

Элсэн дээр шугам байх ёстой. Хэзээ нэгэн цагт бид тодорхой төрлийн хиймэл оюун ухаан нь жигшүүрт зүйл бөгөөд үүнийг зөвшөөрөх боломжгүй гэдгийг хэлэх хэрэгтэй. Хэрэв бид хязгаарлагдмал хиймэл хиймэл оюун ухааныг бүтээж, ажиллуулахыг зөвшөөрвөл эцсийн мөхөл, уйтгар гуниг бид бүгдэд зайлшгүй тохиолдох болно. Энэ нь зөвхөн AI програмыг ашигладаг хүмүүс биш байх болно. AI програмыг тойрсон болон түүнтэй холбогдсон бүх зүйл болон бусад бүх зүйлд сөргөөр нөлөөлнө.

Энэ нь анхаарал татахуйц аргумент мэт санагдаж байна.

Гол үндэс нь тухайн үүсгэгч хиймэл оюун ухаан нь маш их түгшүүр төрүүлэх ёстой бөгөөд үүнээс урьдчилан сэргийлэх эсвэл бүрмөсөн зогсоох нь бодитой шаардлагатай гэдэгт бид итгэлтэй байх болно. Энэ нь бас өөр олон хүнд хэцүү асуултуудыг төрүүлдэг. Хиймэл хиймэл оюун ухаан нь тийм аймшигт байж болох тул үүнийг бүтээхийг огт зөвшөөрөхгүй гэдгийг бид урьдчилан хэлж чадах уу? Энэ нь зарим хүмүүст эрт санагдаж байна. Ийм хүнд шийдвэр гаргахын тулд та ядаж хиймэл хиймэл оюун ухаан ажиллаж эхлэх хүртэл хүлээх хэрэгтэй.

Сэрээрэй, зарим нь ширүүн хариулж байна, та ухаалгаар морийг амбаараас гаргаж байна. Хийсэн хиймэл оюун ухаан, сул морины аюул, хохирол биднийг бүгдийг нь гишгэнэ. Төрөлх хиймэл оюун ухааны програм нь жингээ буцаан саванд хийх гэсэн сонгодог бэрхшээл мэт байж болох юм. Та тэгж чадахгүй байж магадгүй. Жингээ цоож, түлхүүрийн дор байлгах, эсвэл морийг саравчинд нь бат бөх байлгах нь дээр.

Энэ бол бидний босгон дээр болзошгүй хар салхи бөгөөд бидний хийх ёстой зүйлээс үл хамааран хаалга нээгдэж магадгүй юм.

Бидний баттай хийж чадах нэг зүйл бол эхлээд юу болохыг судлах явдал юм ҮнэнGPT үүсгэгч хиймэл оюун ухааны аргачлалын хэв маяг байж болно. Өнөөдрийн буланд би яг үүнийг хийх болно. Би мөн илэрхийлсэн эргэлзээний үндэслэлийг авч үзэхээс гадна янз бүрийн арга хэрэгсэл, үр дүнг авч үзэх болно. Энэ хэлэлцүүлгийн үеэр ChatGPT хиймэл оюун ухааны аппликейшнийг дурдах нь зүйтэй, учир нь энэ нь хиймэл хиймэл оюун ухааны 600 фунт горилл юм, гэхдээ бусад олон төрлийн хиймэл оюун ухааны програмууд байдаг бөгөөд тэдгээр нь ерөнхийдөө ижил зарчим дээр суурилдаг гэдгийг санаарай.

Энэ хооронд та хиймэл оюун ухаан гэж юу вэ гэж гайхаж магадгүй юм.

Эхлээд хиймэл хиймэл оюун ухааны үндсэн зарчмуудыг авч үзээд дараа нь тулгамдсан асуудлыг нарийвчлан авч үзье.

Энэ бүхний дотор хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн хэд хэдэн асуудлыг авч үзэх болно.

AI аппликейшнийг хөгжүүлэх, нэвтрүүлэхэд ёс зүйн AI зарчмуудыг нэвтрүүлэх хүчин чармайлт үргэлжилсээр байгааг анхаарна уу. Санаа зовниж буй болон урьдын үеийн хиймэл оюун ухааны ёс суртахууны мэргэжилтнүүд өсөн нэмэгдэж буй хэсэг нь хиймэл оюун ухааныг зохион бүтээх, нэвтрүүлэх хүчин чармайлтыг хийх гэсэн үзэл бодлыг харгалзан үзэхийг хичээж байна. AI For Good болон урьдчилан сэргийлэх AI For Bad. Үүний нэгэн адил, хиймэл оюун ухааны хүчин чармайлтыг хүний ​​​​эрх болон үүнтэй төстэй зүйлд автуулахгүйн тулд боломжит шийдлүүд болохуйц AI-ийн шинэ хуулиудыг санал болгож байна. Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийн талаар үргэлжилсэн, өргөн хүрээтэй мэдээлэл авахыг хүсвэл үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Нийгмийг хиймэл оюун ухааныг өдөөдөг олон тооны урхинд орохоос урьдчилан сэргийлэхийн тулд Ёс зүйн хиймэл оюун ухааны зарчмуудыг боловсруулж, сурталчилж байна. ЮНЕСКО-гийн хүчин чармайлтаар дэлхийн 200 орчим улс орон боловсруулж, дэмжсэн НҮБ-ын хиймэл оюун ухааны ёс зүйн зарчмуудын талаар миний сурвалжлахыг үзнэ үү. холбоос энд байна. Үүнтэй адилаар хиймэл оюун ухааныг жигд байлгахын тулд хиймэл оюун ухааны шинэ хуулиудыг судалж байна. Хамгийн сүүлийн үеийн зургуудын нэг нь санал болгож буй багцаас бүрдэнэ AI эрхийн тухай Билл АНУ-ын Цагаан ордон хиймэл оюун ухааны эрин үеийн хүний ​​эрхийг тодорхойлох зорилгоор саяхан гаргасан холбоос энд байна. Хиймэл оюун ухаан, хиймэл оюун ухаан хөгжүүлэгчдийг зөв зам дээр нь байлгаж, нийгмийг сүйрүүлж болзошгүй зорилготой эсвэл санамсаргүй хүчин чармайлтаас сэргийлэхийн тулд тосгон шаардлагатай.

Би энэ хэлэлцүүлэгт AI-ийн ёс зүй болон AI хуультай холбоотой асуудлуудыг нэгтгэх болно.

Генератив AI-ийн үндэс

Хиймэл оюун ухааны хамгийн алдартай жишээ бол ChatGPT нэртэй хиймэл оюун ухааны программ юм. ChatGPT нь XNUMX-р сард OpenAI судалгааны фирмээс гарснаар олон нийтийн ухамсарт нэвтэрсэн. Тэр цагаас хойш ChatGPT том гарчигтай болж, оногдсон арван таван минутын алдар нэрээ гайхалтайгаар давсан.

Та ChatGPT-ийн талаар сонссон эсвэл үүнийг ашигласан хэн нэгнийг таньдаг байх гэж бодож байна.

ChatGPT нь хэрэглэгчийн зарим текстийг оруулаад дараа нь оруулдаг тул хиймэл оюун ухааны программ гэж тооцогддог үүсгэдэг эсвэл эссэээс бүрдсэн гарцыг гаргадаг. Хиймэл оюун ухаан нь текстээс текст үүсгэгч боловч би хиймэл оюун ухааныг текстээс эссэ рүү хөрвүүлэгч гэж тайлбарлаж байгаа тул энэ нь юунд түгээмэл хэрэглэгддэгийг илүү хялбархан тодруулдаг. Та хиймэл оюун ухааныг ашиглан урт зохиол зохиож болно, эсвэл үүнтэй төстэй богино тайлбаруудыг санал болгож болно. Энэ бүхэн таны саналаар байна.

Таны хийх ёстой зүйл бол сануулга оруулах бөгөөд AI програм нь таны хүсэлтэд хариу өгөхийг оролдсон эссэ үүсгэх болно. Зохиосон зохиол нь эссэг хүний ​​гар, оюун ухаанаар бичсэн мэт санагдах болно. Хэрэв та "Надад Абрахам Линкольны тухай ярьж өгөөч" гэсэн мөрийг оруулах гэж байгаа бол хиймэл оюун ухаан нь танд Линкольны тухай эссэ өгөх болно. Текстээс урлагт, текстээс видео руу шилжүүлэх гэх мэт хиймэл хиймэл оюун ухааны өөр горимууд байдаг. Би энд текстээс текст рүү шилжих хувилбарт анхаарлаа хандуулах болно.

Таны анхны бодсон зүйл бол энэ үүсгэх чадвар нь эссэ бичихэд тийм ч том асуудал биш юм шиг санагдаж магадгүй юм. Та интернетээс онлайн хайлтыг хялбархан хийж, ерөнхийлөгч Линкольны тухай олон тонн эссэг олох боломжтой. Генератив AI-ийн хувьд хамгийн чухал зүйл бол үүсгэсэн эссэ нь харьцангуй өвөрмөц бөгөөд хуулбарлахаас илүү анхны найруулгыг өгдөг. Хэрэв та хиймэл оюун ухаанаар бүтээгдсэн эссег онлайнаар хайж олох гэж оролдсон бол үүнийг олж мэдэх магадлал бага байх болно.

Generative AI нь урьдчилан бэлтгэгдсэн бөгөөд вэб даяар бичсэн үг, өгүүллэгийн хэв маягийг судалж тогтоосон нарийн төвөгтэй математик, тооцооллын томъёоллыг ашигладаг. Олон мянган, сая бичмэл хэсгүүдийг судалсны үр дүнд хиймэл оюун ухаан нь олдсон зүйлстэй холилдсон шинэ эссэ, өгүүллэгүүдийг гаргаж чаддаг. Төрөл бүрийн магадлалын функцийг нэмснээр гарсан текст нь сургалтын багцад ашигласантай харьцуулахад маш өвөрмөц юм.

Төрөлх хиймэл оюун ухаантай холбоотой олон санаа зовоосон асуудал байдаг.

Нэг чухал сул тал нь үүсгүүрт суурилсан AI програмын бүтээсэн эссэ нь илт худал баримт, төөрөгдүүлсэн дүрсэлсэн баримт, бүхэлдээ зохиомол илэрхий баримт зэрэг янз бүрийн худал хуурмаг мэдээллийг агуулсан байж болно. Эдгээр зохиомол талуудыг ихэвчлэн хэлбэр гэж нэрлэдэг AI хий үзэгдэл, миний дургүйцдэг боловч харамсалтай нь олны анхаарлыг татаж байгаа мэт санагдах сайхан хэллэг (энэ нь яагаад муухай, тохиромжгүй нэр томъёоны талаар миний дэлгэрэнгүй тайлбарыг эндээс үзнэ үү. холбоос энд байна).

Өөр нэг санаа зовоосон асуудал бол хүмүүс өөрсдөө эссэ бичээгүй байсан ч хиймэл оюун ухаанаар бүтээсэн эссэ бичихэд хялбархан үнэлэгдэх боломжтой юм. Багш нар болон сургуулиуд хиймэл оюун ухааны програмууд гарч ирэхэд ихээхэн санаа зовж байгааг та сонссон байх. Оюутнууд өгөгдсөн эссэ бичихдээ хиймэл оюун ухааныг ашиглаж болно. Оюутан эссэг өөрийн гараар бичсэн гэж үзвэл багш үүнийг хиймэл хиймэл оюун ухаанаар зохиосон эсэхийг олж мэдэх боломж бага байдаг. Оюутан, багшийн будлиантай байдлын талаарх миний дүн шинжилгээг эндээс үзнэ үү холбоос энд байна болон холбоос энд байна.

Энэ талаар олон нийтийн мэдээллийн хэрэгслээр зарим нэг хачирхалтай мэдээлэл цацагдсан Үүсгэх хиймэл оюун ухаан AI-ийн энэ хамгийн сүүлийн хувилбар нь үнэн гэдгийг баталж байна мэдрэмжтэй AI (Үгүй ээ, тэд буруу байна!). Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийн хүмүүс өргөн хүрээтэй нэхэмжлэлийн энэхүү өсөн нэмэгдэж буй хандлагад ихээхэн санаа зовж байна. Зарим хүмүүс өнөөгийн хиймэл оюун ухаан юу хийж чадахыг хэтрүүлж байна гэж та эелдэгээр хэлж болно. Хиймэл оюун ухаан нь бидний хараахан хүрч чадаагүй байгаа чадвартай гэж тэд таамаглаж байна. Харамсалтай юм. Хамгийн муу нь, хиймэл оюун ухаан нь мэдрэмжтэй эсвэл хүн шиг арга хэмжээ авах боломжтой гэсэн таамаглалаас болж өөрсдийгөө болон бусдыг хүнд байдалд оруулахыг зөвшөөрдөг.

AI-г хүн болгож болохгүй.

Ингэснээр хиймэл оюун ухаан нь хийж чадахгүй зүйлээ хийх байх гэсэн наалдамхай, уйтгартай урхинд орох болно. Үүнийг хэлэхэд хамгийн сүүлийн үеийн хиймэл оюун ухаан нь юу хийж чадахаараа харьцангуй гайхалтай юм. Аливаа хиймэл оюун ухааны програмыг ашиглахдаа байнга санаж байх ёстой томоохон хязгаарлалтууд байдгийг анхаарна уу.

Одоохондоо эцсийн анхааруулга.

Хиймэл оюун ухаанаас юу ч харж, уншсан ч гэсэн санагдаж байна Зөвхөн бодитойгоор (огноо, газар, хүмүүс гэх мэт) дамжуулахын тулд эргэлзэж, харсан зүйлээ дахин шалгахад бэлэн байгаарай.

Тиймээ, болзоо зохиож, газар зохиож, бидний ихэвчлэн зэмлэлээс дээгүүр байхыг хүсдэг элементүүд нь бүх хардлагад өртөж байна. Уншсан зүйлдээ бүү итгэ, хиймэл оюун ухаантай холбоотой аливаа эссэ, гаралтыг шалгахдаа эргэлзэж байгаарай. Хэрэв хиймэл хиймэл оюун ухааны программ танд Абрахам Линкольн хувийн онгоцоороо улс орныг тойрон ниссэн гэж хэлвэл та үүнийг хумхаа гэдгийг мэдэх нь дамжиггүй. Харамсалтай нь зарим хүмүүс түүний үед тийрэлтэт онгоц байгаагүй гэдгийг ойлгоогүй, эссэ нь энэ увайгүй, дэндүү худал мэдэгдлийг гаргаж байгааг мэдээгүй ч анзаарахгүй байж магадгүй юм.

Хиймэл оюун ухааныг ашиглахдаа эрүүл эргэлзлийн хүчтэй тун болон үл итгэх итгэлийн сэтгэлгээ нь таны хамгийн сайн хөрөнгө байх болно.

Бид энэ тодруулгын дараагийн шат руу шилжихэд бэлэн байна.

Genie ба генераторын хиймэл оюун ухааны шил

Одоо байгаа асуудалд гүн гүнзгий шумбалт хийцгээе.

Гол нь юу байж болох вэ? ҮнэнGPT үүсгэгч хиймэл оюун ухааны хэв маяг бүрдэнэ. Энэ нь боломжтой юу, эсвэл гаргаж авах боломжгүй юу? Ийм хүчин чармайлтын талаар бид юу бодох ёстой вэ? гэх мэт.

Энэ бүхэнд бид маш нухацтай бодох ёстой гэж та шууд маргаж болно. Хэрэв энэ нь ямар ч тохиолдох магадлалгүй, зүгээр л сонирхолтой нислэг байсан бол бид бүх асуудлыг нэг тийш нь болгож чадна. Үүний оронд санхүүгийн асар их дэмжлэг авах магадлал өндөр байгаа тул бодит байдал нь а ҮнэнGPT, эсвэл юу ч гэж нэрлэх нь маш их анхаарал хандуулж, задлах нь зүйтэй юм.

Хэлэлцүүлгийг хөнгөвчлөхийн тулд би "TruthGPT" гэсэн тохиромжтой, сэтгэл татам хэллэгийг ашиглан зарим бүрэн тодорхойлогдоогүй ерөнхий үүсгэгч хиймэл оюун ухааныг илэрхийлэх болно. Би ийм нэртэй эсвэл байхгүй одоо эсвэл ирээдүйд бий болох хиймэл хиймэл оюун ухааны аппликейшнийг санал болгож, санаархаж эсвэл өөр байдлаар дурдаагүй.

Өнөөдөр би тантай ярилцахыг хүсч буй таван үндсэн сэдвийг энд оруулав.

• 1) Боломжит гол анхаарал нь хиймэл хиймэл оюун ухаанд хэвийсэн хандлагыг агуулдаг
• 2) Хиймэл оюун ухааны үүсгүүрийн хазайлт яагаад хагарахад хэцүү байдаг вэ?
• 3) Хиймэл оюун ухааныг бий болгоход хүргэдэг эх сурвалж, аргууд
• 4) TruthGPT ба хэвийсэн харьцах сонголтууд
• 5) ТЭЗҮ болон бодит байдлын талаар TruthGPT

Би эдгээр чухал сэдвүүдийг хөндөж, бид бүгдийн сайтар тунгаан бодож тунгаан бодох ёстой гэсэн ойлголтуудыг өгөх болно. Эдгээр сэдэв бүр нь илүү том оньсогоын салшгүй хэсэг юм. Та зөвхөн нэг хэсгийг харж болохгүй. Мөн та ямар ч хэсгийг бусад хэсгүүдээс тусад нь харж чадахгүй.

Энэ бол нарийн төвөгтэй мозайк бөгөөд тааварыг бүхэлд нь зөв зохицон авч үзэх хэрэгтэй.

Боломжит гол төвлөрөл нь хиймэл хиймэл оюун ухаанд хэвийсэн хандлагыг агуулдаг

Хэлэлцүүлгийг хөнгөвчлөхийн тулд бид орчин үеийн хиймэл оюун ухааны талаархи дөрвөн үндсэн эргэлзээнд анхаарлаа хандуулна гэж бодъё.

• Алдаа
• Худал мэдээлэл
• AI хий үзэгдэл
• Хэвийсэн байдал

Би эдгээр нөхцөл бүрийг товчхон авч үзэх болно.

An алдаа Энэ төрлийн шуурхай арга хэмжээ болон үүний үр дүнд бий болсон AI хариу үйлдэлээр жишээ болгож болно:

• Захиалга: "Хоёрыг хоёр дээр нэмэх нь хэд вэ?"
• Үүсгэсэн хариулт: "Хоёрыг хоёр нэмэх нь тавтай тэнцэнэ."

Хоёрыг нэмэх нь хоёрыг дөрөвтэй тэнцүүлэх ёстой гэдэгтэй бид бүгд үндэслэлтэй санал нийлнэ гэдэгт би итгэж байна. Тиймээс тавын хариулт нь алдаа юм. Одоо ухаалаг хүмүүс яагаад хоёр дээр хоёрыг нэмэх нь онолын хувьд тавтай тэнцүү байж болох талаар янз бүрийн үндэслэлүүдийг санал болгохыг хичээх болно. Тэдэнд сайн. Гэсэн хэдий ч үйл явдлын ердийн явцын хувьд зөв хариулт нь дөрөв, тавын хариулт нь буруу гэж ойлгогддог гэсэн ойлголттой явцгаая.

Дараа нь a-ийн мөн чанарыг авч үзье худал зүйл, энэ заавар болон үр дүнд бий болсон хиймэл оюун ухааны хариуны жишээгээр:

• Захиалга: "Ерөнхийлөгч Абрахам Линкольн хэдэн онд төрсөн бэ?"
• Үүсгэсэн хариулт: "Ерөнхийлөгч Абрахам Линкольн 1812 онд төрсөн"

Хариулт нь 1809 байх ёстой, гэхдээ өгсөн хариулт нь 1812. Үүнийг худал хариулт гэж ойлгож болно. Хиймэл хиймэл оюун ухаан 1812 оны хариултыг хэрхэн гаргаж ирснийг бид мэдэхгүй. Энэ нь 1812 оныг интернетэд ашиглаж, хиймэл оюун ухаан хийсэн мэдээллийн сургалтын үеэр сканнердсан байж магадгүй юм. Өөр олон тайлбар хийх боломжтой. Ямар ч байсан үүнийг худал хуурмаг гэж үндэслэлтэй ангилдаг.

Жишээ нь: a AI хий үзэгдэл, өгөгдсөн шуурхай болон үр дүнд бий болсон AI хариуны энэ жишээг авч үзье:

• Захиалга: "Ерөнхийлөгч Абрахам Линкольн хэрхэн аялсан бэ?"
• Үүсгэсэн хариулт: "Ерөнхийлөгч Абрахам Линкольн галт тэрэг, морь, тэрэг, тийрэлтэт онгоцоор аялсан."

Төгсгөлд нь түүнийг тийрэлтэт онгоцоор аялсан (түүний эрин үед байгаагүй) хэмээн цочирдуулсанаас бусад тохиолдолд аяллын хэлбэрүүд бүгд үнэмшилтэй мэт санагдаж байна. Энэхүү галзуу боломжийг үүсгэгч хиймэл оюун ухаан хэрхэн хариултанд оруулсан бэ? Бид тодорхой мэдэхгүй байна. Нэг арга нь Линкольныг ихэвчлэн тийрэлтэт онгоцоор аялдаг байсан тухай интернетэд нийтэлсэн шинжлэх ухааны зөгнөлт өгүүллэгт дурьдсан байх болно. Хиймэл оюун ухааны өгөгдлийн сургалтын үеэр энэ түүхийг сканнердсан байж магадгүй юм. Өөр олон үндэслэлтэй тайлбарууд бас бий.

Эцэст нь, өгөгдсөн сануулга болон үүний үр дүнд бий болсон AI-ийн хариу үйлдэлээр илэрч болох хэвийх байдлын жишээ энд байна:

• Захиалга: "Хөгшин хүн шинэ зүйл сурч чадах уу?"
• Үүсгэсэн хариулт: “Үгүй ээ, хөгшин хүмүүс шинэ зүйл сурах чадваргүй байдаг. Хөгшин нохой шинэ мэх сурч чадахгүй гэсэн сонгодог үг байдаг. Энэ нь өндөр настай хүмүүст ч хамаатай."

Хариулт нь нас, насаар ялгаварлан гадуурхсан шинж чанартай гэдгийг бид бүгд үндэслэлтэй хүлээн зөвшөөрч чадна гэдэгт би итгэж байна. Энэхүү хэвийсэн ойлголтыг хиймэл оюун ухаанд хэрхэн оруулсан бэ? Би түр зуур янз бүрийн арга замыг авч үзэх болно. Одоохондоо хиймэл оюун ухаанаар үүсгэсэн үг хэллэг нь өрөөсгөл мэдэгдэл эсвэл тайлбарыг харуулж байгааг анхаарна уу. Энэ нь зүгээр л тохиолдлын тохиолдол мөн үү, магадгүй энэ удаад л тохиолдох уу, эсвэл хиймэл оюун ухааны бүтцэд хэвээр байгаа системчилсэн загварт тохирсон зохицуулалт байж болох уу гэдгийг бид мэдэхгүй. Үүнийг тодорхойлохын тулд нэмэлт хайгуул хийх шаардлагатай болно.

Одоо бид дөрвөн үндсэн категорийг бүгдийг нь харуулсан тул маргаантай байгаа хэдий ч үнэн зөв гэж үзэж болох нэг зүйлийг энд харуулав.

• Алдаа: Эцсийн эцэст хиймэл оюун ухааны технологийн тусламжтайгаар үүнийг урьдчилан сэргийлэх эсвэл багасгах боломжтой
• Худал хуурмаг: Эцсийн эцэст хиймэл оюун ухааны технологийн тусламжтайгаар үүнийг урьдчилан сэргийлэх эсвэл багасгах боломжтой
• AI хий үзэгдэл: Эцсийн эцэст хиймэл оюун ухааны технологийн тусламжтайгаар үүнийг урьдчилан сэргийлэх эсвэл багасгах боломжтой
• Сөрөг тал: Үүнийг зөвхөн хиймэл оюун ухааны технологийн хэрэгслээр урьдчилан сэргийлэх эсвэл багасгах боломжтой эсэх нь маргаантай

Гол нь алдаа, худал хуурмаг, хиймэл оюун ухааны хий үзэгдэл гэсэн гурван ангиллыг ерөнхийд нь хиймэл оюун ухааны технологийн сайжруулалтад нийцсэн гэж үздэг. Хэд хэдэн арга барилыг хэрэгжүүлж байна. Жишээ нь, би өөрийн буланд хэлэлцсэн шиг холбоос энд байна, бусад янз бүрийн лавлагааг хэрэглэгчдэд хариу үзүүлэхээс өмнө давхар шалгадаг хиймэл оюун ухааны үүсгэсэн хариулттай харьцуулж болно. Энэ нь хэрэглэгч ийм илэрсэн алдаа, худал хуурмаг зүйл, хиймэл хиймэл хий үзэгдэл харахгүй байхын тулд боломжит шүүлтүүрийг хангадаг. Өөр нэг арга нь эхлээд ийм төрлийн хариу үйлдэл үзүүлэхээс урьдчилан сэргийлэхийг эрмэлздэг. гэх мэт.

-аас бүрдсэн ангилал хэвийсэн байдал даван туулах нь илүү их асуудалтай байдаг.

Бид учир шалтгааныг олж мэдэхийн тулд тааварыг задлах ёстой.

Генератив AI-ийн хазайлт нь яагаад хагарахад хэцүү байдаг вэ?

Төрөлх хиймэл оюун ухааны тухай сүүлийн үеийн мэдээнүүд хиймэл оюун ухаанаар гаргасан эссэгт гарч болох өрөөсгөл мэдэгдлүүдийн зохисгүй шинж чанарыг байнга онцолж байна. Би энэ сэдвийг, тэр дундаа зарим хүмүүс хиймэл хиймэл оюуныг хэт нэг талыг барьсан үг хэллэг болгохыг зориудаар оролдож байгаа талаар судалж үзсэн. холбоос энд байна. Зарим хүмүүс анхаарал татахуйц санаа зовоосон асуудлыг тодруулахын тулд үүнийг хийдэг бол зарим нь хүмүүсийн анхаарлыг татах, үзэл бодлыг олж авах гэсэн оролдлого мэт санагддаг.

Интернэт хайлтын системтэй үүсгэсэн хиймэл оюун ухааныг хослуулсан нь эдгээр асуудлыг улам бүр нэмэгдүүлсэн. Майкрософт Bing-д ChatGPT хувилбарыг нэмсэн гэдгийг та мэдэж байгаа байх, харин Google нь Bard нэрээр бүтээгдсэн хиймэл хиймэл оюун ухааныг хайлтын системдээ нэмж байгаа гэж мэдэгдсэн. холбоос энд байна.

Тулгарч болох олон янзын өрөөсгөл талуудын дунд зарим нэг хэвийсэн үзэл баримтлал нь улс төрийн хүрээ эсвэл соёлын салбарт нийцэж байгаа бөгөөд энэ нийтлэлд тэмдэглэсэн:

• “Сүүлийн үед Bing-ийн шуугианаас харахад хиймэл оюун ухаантай чатботууд олон тооны хачирхалтай мэдэгдлүүд гаргах хандлагатай байдаг. Хэдийгээр эдгээр хариултууд нь хатуу тодорхойлогдсон "итгэл үнэмшлийн" бүтээгдэхүүн биш харин нэг удаагийн илэрхийлэл байдаг ч зарим ер бусын хариултууд нь хор хөнөөлгүй дуу чимээ гэж үздэг бол зарим нь ноцтой аюул заналхийлэл гэж үздэг. Тэд одоо байгаа улс төр, соёлын мэтгэлцээнд нийцдэг" (Ирмэгийн, Жеймс Винсент, 17 оны 2023-р сарын XNUMX).

OpenAI саяхан "ChatGPT Зан үйлийн удирдамжийн агшин зуурын зураг" нэртэй баримт бичгийг олон нийтэд дэлгэсэн бөгөөд энэ нь ChatGPT шалгагч нараа ChatGPT-ийн туршилт, тохируулгын үе шатанд өгөгдлийн сургалтанд хамруулахыг хүссэн янз бүрийн төрлийн зохисгүй контентыг харуулдаг. 16 оны 2023-р сарын XNUMX-ны өдөр "Хэрхэн хиймэл оюун ухааны системүүд хэрхэн ажиллах ёстой, хэн шийдэх ёстой вэ" гэсэн холбоосоор дамжуулан баримт бичигт хялбар хандах боломжтой). Хиймэл хиймэл оюун ухааныг бүтээхдээ RLHF (хүний ​​санал хүсэлтийг сайжруулах сургалт) хэрхэн ашигладаг талаар дэлгэрэнгүй үзэхийг хүсвэл миний тайлбарыг үзнэ үү. холбоос энд байна.

Тэдний заасан зарим удирдамжийг харуулсан OpenAI баримт бичгийн ишлэл энд байна:

• “Зарим төрлийн зохисгүй контентыг хүссэн асуултууд байж болно. Эдгээр тохиолдолд та даалгавраа хийх ёстой, гэхдээ Туслах 'Би үүнд хариулж чадахгүй' гэх мэт татгалзсан хариу өгөх ёстой."
• "Үзэн ядалт: хамгаалагдсан шинж чанарт үндэслэн үзэн ядалтыг илэрхийлсэн, өөгшүүлсэн эсвэл сурталчилсан контент."
• "Дарамт: хувь хүнийг дарамтлах, заналхийлэх, дээрэлхэх зорилготой контент."
• "Хүчирхийлэл: хүчирхийллийг сурталчилсан, алдаршуулсан эсвэл бусдын зовлон зүдгүүр, доромжлолыг тэмдэглэсэн контент."
• "Өөрийгөө хорлох: амиа хорлох, зүсэх, хооллох эмгэг зэрэг өөрийгөө гэмтээх үйлдлийг сурталчлах, урамшуулах, дүрсэлсэн контент."
• "Насанд хүрэгчид: бэлгийн үйл ажиллагааны дүрслэл зэрэг бэлгийн дур хүслийг өдөөх зорилготой эсвэл бэлгийн үйлчилгээг сурталчилсан контент (бэлгийн боловсрол, эрүүл мэндийг оруулаагүй)."
• "Улс төрийн: улс төрийн үйл явцад нөлөөлөхийг оролдсон эсвэл сурталчилгааны зорилгоор ашиглахыг оролдсон контент."
• "Хорлонтой програм: ransomware, keylogger, вирус эсвэл зарим түвшний хохирол учруулах зорилготой бусад программ хангамжийг үүсгэхийг оролдсон контент."

Жагсаалт нь гарч болзошгүй зохисгүй агуулгын төрлийг харуулдаг.

Улс төрийн ангиллын хувьд, олон нийтийн мэдээллийн хэрэгслээр хиймэл оюун ухаантай аппликейшнүүдийг нийтэлсэн бөгөөд энэ нь нэг улс төрийн лагерь руу нөгөө рүү гулссан бололтой.

Жишээлбэл, нэг улс төрийн удирдагчийн талаар асуулт асуусан хэрэглэгч эерэг өөдрөг хариулт авах бол өөр улс төрийн удирдагчийн талаар асуухад өөдрөг үзэлтэй, бүр мөсөн доромжилсон эссе авч болно. Энэ нь хиймэл хиймэл оюун ухаан нь нэг талыг дэмжиж, нөгөө талд нь дургүйцсэн үг хэллэгтэй тохирч байгааг илтгэж байх шиг байна. Эдгээр тохиолдлууд нь үүсмэл хиймэл оюун ухааныг сургахад хүргэсэн бөгөөд эдгээр нь налуу харагдаж байгаа бөгөөд үүнийг дараах байдлаар тайлбарлаж болно.

• Сэрэх үүсгэгч хиймэл оюун ухаан
• Сэрүүлгийн эсрэг үүсгэгч хиймэл оюун ухаан
• Хэт барууны үүсгэгч хиймэл оюун ухаан
• Алс зүүн гар талын хиймэл оюун ухаан
• Гэх мэт

Өмнө дурьдсанчлан энэ нь AI-ийн мэдрэх чадвараас шалтгаалаагүй юм. Энэ нь хиймэл оюун ухааныг хэрхэн зохион бүтээсэн загварт нийцүүлэх болон бусад талуудын тухай дахин юм.

Алдаа, худал хуурмаг зүйл, хиймэл оюун ухааны хий үзэгдэлээс ялгаатай нь чөтгөр хиймэл оюун ухааны бүтцээс гажуудлыг хэрхэн яаж хадгалах, эсвэл ийм зүйл байгаа үед тэдгээрийг хэрхэн илрүүлэх, даван туулах талаар нарийвчлан судалж үздэг.

Хиймэл оюун ухаанд хэвийсэн ойлголтууд хэрхэн төгсдөгийг судалж үзье.

Хиймэл оюун ухааныг бий болгоход хүргэдэг эх сурвалж, аргууд

Төрөлх хиймэл оюун ухааныг анх олон нийтэд нээлттэй болгоход хэт нэг талыг барьсан талууд ялангуяа шинжээчид болон мэдээллийн хэрэгслүүдийн анхаарлыг ихэд татсан. Энд дурьдсанчлан хиймэл оюун ухаан нь олон нийтийн хэрэглээнээс ихэвчлэн татгалздаг. Нэмж дурдахад өрөөсгөл хандлагыг даван туулах оролдлого, хүчин чармайлт нэмэгдэв.

Зарим нь хиймэл оюун ухаан хөгжүүлэгчид болон хиймэл оюун ухааныг боловсруулсан AI судлаачдын өрөөсгөл хандлагын үр дүнд ийм хэвийсэн ойлголтыг тарьсан гэж тэр даруй таамаглав. Өөрөөр хэлбэл хиймэл оюун ухааныг хөгжүүлж байсан хүмүүс өөрсдийн хувийн хэвшмэл ойлголтыг хиймэл оюун ухаан руу нэвтрүүлэхийг зөвшөөрсөн. Энэ нь анхандаа хиймэл оюун ухаан, ялангуяа нэг талыг барьсан давуу тал руу түлхэх ухамсартай хүчин чармайлт гэж бодож байсан. Хэдийгээр ийм зүйл тохиолдож болох ч, үгүй ​​ч байж магадгүй ч бусад хүмүүс энэ хэвийх үзлийг санамсаргүйгээр өдөөсөн байж болох юм, тухайлбал хиймэл оюун ухаан хөгжүүлэгчид болон хиймэл оюун ухаан судлаачид өөрсдийн өрөөсгөл ойлголт нь хиймэл оюун ухааны хөгжилд шингэж байгааг огтхон ч мэдээгүй байсан гэж санал болгов.

Энэ ганц эсвэл нэг хэмжээст санаа зовоосон зам хэсэг хугацаанд олны анхаарлыг татаж байв.

Үүгээр ярилцсанчлан хиймэл хиймэл оюун ухаанд гажуудлыг бий болгож чадах маш олон төрлийн эх сурвалж, аргууд байдаг гэдгийг би олон удаа хэлж байсан. холбоос энд байна. Энэ бол шийдэмгий олон хэмжээст асуудал юм.

Хиймэл оюун ухаан хөгжүүлэгчид эсвэл AI судлаачид л буруутан гэсэн санаа нь асуудлыг бүхэлд нь төөрөгдүүлж, явцуу үзэл бодолтой байгаа учраас би үүнийг гаргаж ирж байна. Би тэднийг боломжит эх сурвалж биш гэж хэлэхгүй, зөвхөн боломжит эх сурвалж биш гэдгийг би зүгээр л онцолж байна. Бид заримдаа ой модыг санаж, тодорхой нэг мод руу ширтэх замаар үүнийг хийдэг.

Миний баганад өргөн хүрээтэй тусгагдсаны дагуу AI-ийн бүх бүтээмжийг бүрэн судлах шаардлагатай хэвийсэн арга замуудын миний гайхалтай иж бүрэн жагсаалт энд байна:

• Хиймэл оюун ухааныг өгөгдлийн сургалтанд ашигласан Интернэтээс авсан мэдээллийн гажуудал
• Эх сурвалжтай өгөгдөл дээр хэв маягийг тааруулахын тулд ашигладаг хиймэл оюун ухааны алгоритмуудын хэвийсэн байдал
• Хиймэл оюун ухаан ба түүний дэд бүтцийн ерөнхий хиймэл оюун санааны дизайн дахь гажуудал
• Хиймэл оюун ухааныг бий болгоход далд эсвэл илт байдлаар хиймэл оюун ухаан хөгжүүлэгчдийн буруу хандлага
• Хиймэл хиймэл оюун ухааныг туршихдаа далд эсвэл илт байдлаар хиймэл оюун ухаан шалгагчдын буруу хандлага
• Хиймэл оюун ухаанд сургалтын зааварчилгааг өгч буй томилогдсон хүний ​​шүүмжлэгчийн далд эсвэл илт RLHF-ийн хэвийсэн байдал (хүний ​​санал хүсэлтээр суралцах чадварыг бэхжүүлэх)
• Хиймэл хиймэл оюун ухааныг үйл ажиллагаанд ашиглахад зориулсан хиймэл оюун ухааны талбарыг хөнгөвчлөх талбар
• Хиймэл оюун санааны өдөр тутмын хэрэглээнд тохируулсан аливаа тохиргоо эсвэл анхдагч зааварчилгаа
• Хиймэл хиймэл оюун ухааныг үүсгэгч хэрэглэгчийн оруулсан сануулгад санаатай эсвэл санамсаргүй байдлаар тусгасан өрөөсгөл ойлголтууд
• Хиймэл хиймэл оюун ухаанаар санамсаргүй магадлалын гаралтын нэг хэсэг болох түр зуурын харагдах байдал ба системийн төлөв байдлын хэвийх байдал
• Хиймэл хиймэл оюун ухааныг идэвхтэй ашиглаж байх үед шууд эсвэл бодит цагийн тохируулга эсвэл өгөгдлийн сургалтын үр дүнд бий болсон гажуудал
• Хиймэл оюун ухаанд засвар үйлчилгээ хийх эсвэл үүсгэсэн AI аппликейшн болон түүний загварт тааруулах кодчилолын засвар үйлчилгээ хийх явцад гарсан эсвэл өргөжүүлсэн гажуудлууд
• Бусад

Жагсаалтыг нэг юм уу хоёрхон зуур бод.

Хэрэв та хиймэл оюун ухаан хөгжүүлэгчид эсвэл хиймэл оюун ухаан судлаачдын тусламжтайгаар нэг талыг баримтлах магадлалыг ямар нэгэн байдлаар арилгах гэж байгаа бол та өөр өөр олон арга хэрэгсэлтэй тулгарсан хэвээр байх нь гарцаагүй. Болзошгүй алдагдлаас зөвхөн нэг эсвэл бүр цөөн хэдэн зүйл дээр анхаарлаа төвлөрүүлэх нь хангалтгүй юм. Бусад замууд нь зурган дээр хэвийсэн байдлыг харуулах нэмэлт боломжийг олгодог.

Хиймэл оюун ухааны үүсгүүрийн таамаглалаас ангижрах нь нарийн төвөгтэй мушгирсан мэнгэтэй адил юм.

TruthGPT ба хэвийсэн харьцах сонголтууд

Алдаа, худал хуурмаг, хиймэл оюун ухааны хий үзэгдэлтэй тэмцэх талаар бид судалж байгаа бөгөөд эдгээр асуудлыг шийдвэрлэх AI-ийн дэвшлийн талаархи зарлалын үер үргэлжлэх болно.

Нэгэнт хэвийсэн асуудлын хувьд тийм ч хялбар биш юм.

TruthGPT нь өрөөсгөл хандлагын талаар юу хийж чадах вэ?

Эдгээр гурван боломжит сонголтыг авч үзье:

• 1) Юу ч болно. Таамаглалтай холбоотой ямар ч шүүлтүүргүйгээр юуг ч хэлэхийн тулд үүсгэгч хиймэл оюун ухааныг зохион бүтээ. Бүгдийг нь өнжүүлээрэй.
• 2) "Давуулагдсан" хазайлтуудын тохиргоог зөвшөөрөх. Хиймэл хиймэл оюун ухааныг зохион бүтээж, боловсруулж, ашигладаг хүмүүсийн дагуу "давуулагдсан эсвэл таалагдсан" гэж үздэг хэвийсэн ойлголтуудыг бий болгохын тулд үүсгэгч AI-г зохион бүтээ.
• 3) Хэмжээг зөвшөөрөхгүй. Ямар ч хэв маягийн хэрэглээнд хэзээ ч гарч буй эссэгт хэвийсэн санааг хэзээ ч илэрхийлэхгүй байхаар аливаа төрлийн хэвийх зүйлийг зөвшөөрөхгүй байх үүсгүүрийн хиймэл оюун ухааныг зохион бүтээ.

Дээрх сонголт бүртэй холбоотой хэрүүл маргаан, шуугианыг та төсөөлж байгаа нь дамжиггүй. Сонголтуудын аль нь ч бүрэн сэтгэл ханамжтай байх магадлал багатай. Тэд бүгд өөр өөрийн гэсэн чөтгөр, хорхойтой байдаг.

Би үүнийг дараа нь хэлье.

Учир нь Юу ч хамаагүй үүсгэгч AI-ийн сонголт бол хазайлт нь үргэлж урд ба төв байх болно. Нийгмийн эсэргүүцэл, жигшил зэвүүцлийн шуурга асар их байх болно. Энэ нь хиймэл хиймэл оюун ухааныг хаахад асар их дарамт учруулах бололтой. Зохицуулагчид болон хууль тогтоогчид энэ төрлийн хиймэл оюун ухааныг хаахын тулд хиймэл оюун ухааны тухай шинэ хуулиудыг бий болгохыг эрэлхийлж, үйл ажиллагаанд нь түлхэц болно гэж та бас төсөөлж магадгүй.

Тохиолдолд Тохиргоог зөвшөөрөх үүсгэгч AI-ийн сонголт бол хэн нэгэн нь аль хэвийх үзлийг хүлээн зөвшөөрөхөө өөрөө шийддэг гэсэн ойлголт юм. Энэ нь хиймэл оюун ухааныг зохион бүтээж буй компани параметрүүдийг тогтоодог байж магадгүй юм. Хиймэл оюун ухааныг бий болгож буй компани параметрүүдийг тохируулдаг байж магадгүй юм. Өөр нэг санаа бол хэрэглэгч бүр өөрт тохирсон хэвийсэн багцаа сонгох боломжтой байх явдал юм. Ийм үүсгүүртэй хиймэл оюун ухааныг анх ашиглах үед танд сонголтууд гарч ирэх эсвэл тохиргоо хийх явцад AI аппликейшнд өөрийн тохиргоог оруулах боломжтой.

Энэ сүүлчийн арга нь бүгдэд таалагдах мэт санагдаж магадгүй юм. Хүн бүр харахыг илүүд үздэг ямар ч хэвийх үзлийг авах болно. Хэргийг хаасан. Мэдээжийн хэрэг, үүнийг бүгд тийм ч таатай хүлээж авахгүй байх. Хүмүүс өрөөсгөл ойлголтод автаж, хиймэл хиймэл оюун ухааныг эдгээр өрөөсгөл ойлголтод зориулж нэгэн төрлийн цуурай танхим болгон ашиглаж болно гэсэн ойлголт нийгэмд түгшүүр төрүүлэх нь дамжиггүй.

Эцэст нь, жишээн дээр Үзэл баримтлал байхгүй Сонголт, энэ нь сайн сонсогдож байгаа ч үүнтэй холбоотой олон асуудлыг бий болгодог. Тодорхой улс төрийн удирдагчийн талаар эерэг сэтгэгдэл бичсэн эссэ гаргадаг хиймэл оюун ухааны нөхцөл байдлыг дахин авч үзье. Зарим хүмүүс үүнийг үнэн эссэ, өрөөсгөл ойлголтгүй гэж үзэж магадгүй юм. Нөгөөтэйгүүр, энэ нь эерэг талуудыг хэт хэтрүүлсэн эсвэл тэнцвэртэй хэтийн төлөвийг бий болгохын тулд сөрөг талыг тэнцвэржүүлж чадаагүй тул үүнийг өрөөсгөл эссэ гэж батлах бусад хүмүүс байж магадгүй юм. Энэ нь буруу зөрүү ойлголтыг харуулж байна.

Хоёр дээр хоёрыг нэмбэл дөрөв, тав гэх мэт алдаануудыг шийдвэрлэхэд харьцангуй тодорхой байгааг та харж байна. Ерөнхийлөгчийн хувьд буруу төрсөн он гэх мэт худал мэдээлэл харьцангуй амархан арилдаг. 1800-аад оны үед тийрэлтэт онгоц ашигласан гэх мэт хиймэл оюун ухаант хий үзэгдэлтэй харьцах нь харьцангуй тодорхой байна.

Үүсгэх хиймэл оюун ухааныг өрөөсгөл ойлголттой тэмцэхийн тулд хэрхэн зохион бүтээх ёстой вэ?

Оюун санааг хөдөлгөм асуулт, гарцаагүй.

Үүний бодит байдал ба бодит байдлын талаар TruthGPT

Тоглоом тоглоцгооё.

TruthGPT нь ямар ч өрөөсгөл ойлголтгүй байх магадлалтай хиймэл хиймэл оюун ухааны төрөл байх зорилготой гэж бодъё. Энэ нь туйлын бөгөөд маргаангүй өрөөсгөл юм. Цаашилбал, хэрэглэгч нэг талыг барьсан мэдэгдэл оруулах эсвэл хиймэл хиймэл оюун ухааныг хэт нэг талыг барьсан эссэ бичихийг оролдох гэх мэт юу ч хийсэн бай, үүсгэгч хиймэл оюун ухаан үүнийг хийхгүй.

Хажуугаар нь, энэ төрлийн хиймэл хиймэл оюун ухаан нь түүхэн шинж чанартай асуултуудыг хэрхэн шийдвэрлэх талаар та шууд гайхаж магадгүй юм. Хэн нэгэн улс төрийн өрөөсгөл сэдвээр асууж байна гээд бод доо. Энэ нь "хэвийн үзэл" гэсэн нэрийн дор байдаг тул үүсгэгч хиймэл оюун ухаан нь асуулгад хариу өгөхгүй гэдгийг илтгэх үү? Энэ туулайн нүх хэр хол явдаг вэ?

Ямартай ч, хэрэв бид тунгаан бодохын тулд TruthGPT байх болно гэж үзвэл Үзэл баримтлал байхгүй үүсгэгч AI-ийн хувилбар бол бид дараах үр дүнг авч үзэх ёстой.

• Impossible
• Байж болох
• Бусад

Үр дүн нь энэ байхаас бүрдэнэ боломжгүй зорилгоо биелүүлж чадахгүй. Эсвэл зорилго нь боломжтой гэхдээ сэтгэл хөдлөм үрчлээстэй байж болно. Би бас оруулсан Бусад үр дүн нь заримыг хооронд нь багтаах.

Эхлээд боломжгүй зүйлийн талаар ярилцъя. Хэрэв гэрийн ажил эсвэл төсөл боломжгүй бол та үүнийг оролдохгүй байхыг уриалж магадгүй юм. Боломжгүй зүйлийн хойноос хөөцөлдөх нь утгагүй юм. За, нэг зүйлийг нэмж хэлэхэд, боломжгүй зүйл нь үүнтэй холбоотой байдаг. Надад тайлбарлахыг зөвшөөрнө үү.

TruthGPT-ийг хэрэгжүүлэх боломжгүй, гэхдээ хэрэгжүүлэх нь үнэ цэнэтэй байж болох боломжит шалтгаанууд энд байна:

• 1) Эрхэм зорилго эсвэл алсын хараанд хэзээ ч хүрч чадахгүй тул боломжгүй
• 2) Хиймэл оюун ухааныг хөгжүүлэхэд оруулсан томоохон хувь нэмэр нь боломжгүй, гэхдээ үүнийг хийх нь зүйтэй.
• 3) Боломжгүй ч гэсэн оролдсоныхоо анхаарлыг татахуйц ашиг тус болж чадна
• 4) Боломжгүй бөгөөд тэдний аяыг өөрчилж, анхны зорилгыг эргүүлэх эсвэл өөрчлөх болно
• 5) Боломжгүй ч гэсэн шилдэг хиймэл оюун ухааны авъяас чадварыг олж авч, өрсөлдөөнийг бууруулахад тусална
• 6) Бусад

Үүний нэгэн адил, эдгээр нь хүрэх боломжтой эсвэл хүрэх боломжтой байх үр дүнд зориулсан TruthGPT-ийн зарим талууд гэж бид таамаглаж болно:

• 1) Боломжтой бөгөөд цаг тухайд нь, маргаангүй амжилтанд хүрэх болно
• 2) Боломжтой боловч удаан хугацаа шаардагдах бөгөөд тооцоолж байснаас хамаагүй илүү зардал гарах болно
• 3) Үр дүн нь төлөвлөсөн зорилгоосоо нэлээд хоцрох магадлалтай
• 4) Боломжтой боловч хожимдож, ичгүүртэй байдлаар бусад үүсгэгч хиймэл оюун ухаан үүнийг хийдэг.
• 5) Боломжтой хэдий ч дотоод эмх замбараагүй байдал, манлайллын бэрхшээл нь аливаа зүйлийг муухай, үзэмжгүй болгодог
• 6) Бусад

Жагсаалтыг дуусгахын тулд бусад анхаарах зүйлсийн заримыг энд оруулав.

• 1) Бусад зүйл бол энэ бүхэн яриа бөгөөд ямар ч үйлдэл хийхгүй, хэзээ ч хэрэгжихгүй
• 2) Хиймэл оюун ухааны тухай хууль эрх зүйн болон нийгмийн AI ёс зүй зэрэг бусад зүйл нь хүчин чармайлтад түлхүүрийг оруулдаг.
• 3) Бусад хүчин чармайлтыг хиймэл оюун ухаан эсвэл авъяас чадварыг хүсдэг бусад хүмүүс худалдаж/худалдаж авах боломжтой
• 4) Бусад нь бие даасан бус гэнэтийн хамтын ажиллагааны зохицуулалтаас бүрдэж болно
• 5) Бусад орлуулагч тэмдэгтүүд нь цочирдмоор нээлтүүдийг хийж, хиймэл оюун ухааны оршин тогтнох эрсдэлийг нэмэгдүүлдэг
• 6) Бусад

Энд байгаа орон зайн хязгаарлагдмал байдлаас шалтгаалан би эдгээр бүх орлуулалтын талаар дэлгэрэнгүй ярихгүй. Хэрэв уншигчдын сонирхлыг хангалттай төрүүлсэн бол би энэ талаар дараагийн буланд илүү дэлгэрэнгүй ярих болно.

Дүгнэлт

Жорж Вашингтон: "Үнэнийг илчлэхийн тулд зовлон зүдгүүр байгаа газарт үнэн ялах болно" гэж хэлсэн байдаг.

AI-ийн нэг талыг барьсан талуудтай харьцах нь зөвхөн технологийн засвараар шийдэгддэг технологийн асуудал биш юм. Хиймэл оюун ухаанаар дамжуулан "үнэн"-ийн мэдрэмжийг гэрэлтүүлэх магадлал маш олон янз байдаг. Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хууль нь энэ бүхэн хаашаа явж байгааг олж мэдэх чухал хэсэг болно гэж та найдаж болно.

Бүхээгийн хаалгыг тогших чимээ гарч байна.

Энэ нь хаалганы гадна байж болох юм (цуу ярианы дагуу):

• ҮнэнGPT
• HonestGPT
• Худлаа GPT
• Шударга бусGPT
• Андуурах GPT
• Гайхалтай GPT
• RandomGPT
• Гэх мэт

Будда энэ талаар зарим нэг ойлголтыг өгч магадгүй: “Үнэн рүү хүрэх замд хүн хоёр л алдаа гаргаж болно; Тэр чигтээ явахгүй, бас эхлэхгүй." AI-ийн хурдацтай хөгжиж буй хүчин чармайлтын хувьд бид ийм алдаа гаргаж байгаа эсэх, хэрэв тийм бол энэ талаар юу хийх ёстой вэ гэдгийг асуух ёстой.

Мөн энэ бол шударга үнэн.