Ньюсом хор хөнөөлтэй OpenAI, Anthropic-ийн гаргалтуудыг зогсоох AI-ийн "унтраалга" санал болгов
CalMatters
Khari Johnson ·

Калифорнийн захирагч Ньюсом хиймэл оюуны системийг аюулгүй болгох талаар эрдэмтдийн зөвлөх багийн гаргасан өргөн хүрээтэй зөвлөмжийг танилцуулав.
**Товчилбол**
Калифорнийн захирагч AI системийг илүү аюулгүй болгох талаар мэргэжилтнүүдийн зөвлөх багийн өргөн хүрээтэй зөвлөмжийг танилцуулав.
Захирагч Гэвин Ньюсом өнөөдөр AI-аас үүдэх эрсдлийг бууруулах зорилготой өргөн хүрээтэй бодлогын зөвлөмжүүдээ нийтлэв. Үүнд муж улсын албан тушаалтнуудад аюултай гэж үзсэн AI системийг яаралтай байдлаар унтраах эрх олгох санал орсон байна.
Бусад зөвлөмжид бие даасан аудиторууд AI загваруудыг шалгаж, аюулгүй байдал болон хамгаалалтын стандартыг тогтоох тухай багтжээ.
"Унтраалга" гэгддэг энэ эрх нь ChatGPT-г бүтээгч OpenAI, Claude-ийг бүтээгч Anthropic зэрэг компаниуд буруу явж буй системийг хязгаарлах арга хэмжээ авахаас татгалзсан тохиолдолд хэрэгжинэ.
Зөвлөмжийг Ньюсомын энэ намар байгуулсан мэргэжилтнүүдийн бүрэлдэхүүнтэй баг боловсруулсан. Энэ нь AI агентуудаар засгийн газар, банк болон хувийн компаниудад хийгдсэн өндөр профайлтай кибер халдлагуудын дараа гарсан юм.
Политико сонины мэдээлснээр захирагч Вашингтонд сүүлийн үед хийсэн айлчлалынхаа үеэр эдгээр зөвлөмжийг муж улсын хуулийн төслийн суурь болгоно гэж хэлсэн байна. Ерөнхийлөгчийн сонгуульд нэр дэвших магадлал өндөр гэгддэг Ньюсом муж улс холбооны түвшинд AI-ийн дүрэм журам дутагдаж буйн улмаас үүссэн хоосон орон зайг нөхөж байгаа гэв. Тэрээр зөвлөмжийг зарласан мэдэгдэлдээ "Олон нийтийг хамгаалахын оронд Дональд Трамп мөрөө хавчаад AI-ийн зохицуулалтыг компаниудад өөрсдөд нь үлдээж байна" гэж бичжээ.
Калифорни нь дэлхийн хамгийн том AI компаниудын зарим нь байрладаг мужийн нэг бөгөөд Калифорнийн Хууль тогтоох чуулган улсын бусад мужаас илүү олон AI-ийн зохицуулалтын хуулийн төсөл батласан. Ньюсом 9-р сард Хууль тогтоох чуулганаас батлагдсан хэдэн арван хуулийн төсөлд гарын үсэг зурсан. Тэдгээр нь хүүхдүүд, ажилчид болон мэдээллийн төвүүдийн ойр орчимд амьдарч буй хүмүүсийг AI болон холбогдох нөлөөллөөс хамгаалах зорилготой юм. Тэрээр мөн AI аудиторуудын бүртгэл үүсгэх, аудиторуудад стандарт тогтоох хуулиудыг хэрэгжүүлэх ажлыг эрчимжүүлсэн. Хууль тогтоогчид 12-р сарын 7-нд Сакраменто руу буцаж ирэхдээ шинэ хуулийн төсөл санал болгож болно.
Эдгээр зөвлөмж нь Ерөнхий прокурор Роб Бонтагийн OpenAI-ийн эсрэг гаргасан нэхэмжлэлтэй зэрэгцэн гарч байна. Нэхэмжлэлийн зорилго нь компанийн бүтээсэн агентуудын хийсэн кибер халдлагад уг компанийг хууль ёсоор хариуцлага хүлээлгэх явдал юм.
Бүлэг мөн Калифорни мужид дараахыг зөвлөж байна:
- Аудиторуудад лиценз олгох (тэднийг бие даасан баталгаажуулах байгууллага гэж нэрлэдэг) бөгөөд хангалттай бие даасан байдал эсвэл техникийн мэдлэгээ хадгалж чадаагүй аудиторуудын лицензийг цуцлах эрх олгох. Аудиторууд "[AI] лабораторитой сайн харилцаагаа хадгалахын тулд зөөлөн дарамтанд орсон байдаг, тэгснээр тэд бидэнтэй хамтран ажиллахаа үргэлжлүүлэхийг хүсдэг" гэж бие даасан аудитын ашгийн бус байгууллага METR-ийн ажилтан Риф Саурус өнгөрсөн сард Калифорнийн Сенатын сонсголд хэлсэн. - Бие даасан байдлыг хадгалахын тулд AI компаниуд аудиторуудыг өөрсдөө хөлсөлдөгийн оронд улсын албан тушаалтнууд үнэлгээг аудиторуудад хуваарилах боломжийг авч үзэх. - CalCompute-г санхүүжүүлэх. Энэ нь AI-д тэгш хандалт олгохоор зорилгод чиглэсэн нийтийн үүлэн санаачилга бөгөөд AI компаниудын аудиторуудад төлдөг хураамжид нэмэгдэл төлбөр ногдуулж санхүүжүүлнэ. Сонгогдсон захирагч Завьер Бесерра кампанит ажлынхаа үеэр CalCompute-ийн санхүүжилтийг дэмжсэн. - AI-ийн дуулиан дэлгэгчдийн (whistleblower) одоо байгаа хамгаалалтыг гэрээт ажилтнууд болон хуучин ажилчдад хамруулахаар өргөтгөх. - AI-ийн аюулгүй байдлын үйл явдлын тайланг засгийн газрын байгууллагуудад илүү өргөн хүрээнд мэдээлж, ноцтой аюулгүй байдлын үйл явдлыг мэдээлэх хугацааг 15 хоногоос 48 цаг болгон богиносгох. - Зарим мэргэжилтнүүд энэ дадлага системийг илүү аюултай болгодог гэж үзэж байгаа тул засгийн газар AI-г зохион бүтээхэд AI ашиглахыг хязгаарлах боломжтой болгох. - Хөгжүүлэгчдээс AI хөгжүүлэлтийг автоматжуулахад ашиглаж буй тооцооллын нөөцийн хэмжээг илэрхийлэхийг шаардах. - Том AI системийн хөгжүүлэгчдээс онцгой байдлын үед загваруудаа унтраах чадвараа харуулахыг шаардах. - Аюулгүй байдал, хамгаалалт, ил тод байдлын талаар муж улсын стандарт тогтоох ба үндэсний болон олон улсын стандартад тулгуурлах.
Дөрвөн гишүүнтэй мэргэжилтнүүдийн багт Байденийн засаг захиргааны үед Цагаан ордны Шинжлэх ухаан, технологийн бодлогын газрыг удирдаж байсан Алондра Нельсон; шинжлэх ухаан, технологийн удирдлагыг судалдаг Стэнфордын их сургуулийн профессор Роб Рейч; Google болон Twitter-т ажиллаж, Цагаан ордны анхны дижитал ахлах ажилтан байсан Жейсон Голдман; мөн AI-тай холбоотой янз бүрийн асуудлыг судалдаг Жон Хопкинсийн их сургуулийн профессор Жиллиан Хадфилд нар багтжээ.
Бесерра бичгээр мэдэгдэлдээ Хууль тогтоох чуулгантай хурдан хамтран ажиллаж, "бүрэн хэмжээний хэрэг мэдээлэх тогтолцоо болон жинхэнэ унтраах эрх мэдлийг хуульд тусгах" зорилготой гэжээ.
Claude AI системийг бүтээдэг Anthropic компанийн дэлхийн гадаад харилцааны ахлах ажилтан Тино Куэльяр тайлан нь AI загваруудын бие даасан үнэлгээ зэрэг асуудлаар яриаг урагшлуулж байгаад компани сэтгэл хангалуун байгааг хэлжээ. Тэр бичсэн мэдэгдэлдээ "Бид энэ чухал цагт эдгээр асуудлаар ахиц дэвшлээ үргэлжлүүлэхийн тулд Калифорни болон дэлхийн бусад газрын удирдагчидтай хамтран ажиллах болно" гэжээ.
Захирагчийн мэргэжилтнүүдийн баг болон сүүлийн хэдэн долоо хоногт аудиторуудын гаргасан зөвлөмжүүд нь Калифорнийн Хууль тогтоох чуулган болон Конгрессын шинээр сонгогдсон гишүүдэд хэлэлцүүлэх сэдвийг өгч байна.
Төрийн сенатор Скотт Виенер нь AI-ийн сүйрлийн эрсдлийг бууруулах улсын хуулийг бичсэн бөгөөд саяхан Нэнси Пелосигийн суудлыг Конгрессд авахаар сонгогдсон. Тэрээр тангараг өргөсний дараа AI-ийн аюулгүй байдлын зохицуулалтыг танилцуулахаа амласан.
Одоогийн улсын хуулиар сүйрлийн эрсдлийг кибер халдлага эсвэл бие даасан системийн үйл ажиллагаагаар 50-аас олон хүний амийг хөнөөх эсвэл 1 тэрбум долларын хулгай, эд хөрөнгийн хохирол учруулах чадвартай нэг үйл явдал гэж тодорхойлдог. Өнөөдөр гарсан тайлан зөвхөн сүйрлийн эрсдэлд анхаарч, автоматжуулсан ялгаварлал, ажлын байраа алдах, хүүхдийн аюулгүй байдал эсвэл сэтгэцийн эрүүл мэндэд учрах аюул зэрэг AI-ийн бусад хор уршгаас хүмүүсийг хамгаалах арга замыг судлаагүй. Зөвлөмжийг боловсруулагчид итгэмжлэгдсэн аудиторуудад загваруудыг сүйрлийн эрсдэлд шалгах систем бүтээх нь бусад хохирлын хэлбэрүүдийг үнэлэхийг улам хялбар болгоно гэж үзэж байна.
Өнөөдөр гарсан зөвлөмжүүд нь генератив AI-ийн эрин эхэлснээс хойш Ньюсомын захиалсан хамгийн сүүлийн үеийн зөвлөмжүүд юм. 2023 оны сүүлээр гарсан захирамжаар муж улс засгийн газарт генератив AI ашиглахын боломж, эрсдлийг нэгтгэн үнэлэх шаардлагатай болсон. Дараа нь гарсан улсын тайланд генератив AI-ийн эмзэг болон ирмэг дээр байгаа бүлгүүдэд үзүүлэх нөлөөг үнэлжээ. 2025 оны 6-р сард гарсан мэргэжилтнүүдийн багийн тайланд инноваци болон аюулгүй байдлыг тэнцвэржүүлэхийн тулд AI салбарт бие даасан, гадны этгээдийн үнэлгээ шаардлагатай гэж дүгнэсэн байна.
Эх сурвалж
CalMatters
Newsom touts an AI kill switch to halt dangerous OpenAI, Anthropic releases




