Автор: lililota  

Леополд Ашенбренер предупреждава за проблем с ККП и използването на ИИ: „Запазването на свободния свят срещу тоталитарните държави е под въпрос“

Специалист, уволнен от компанията OpenAI предсказа, че до 2027 г. може да бъде създаден Общ изкуствен интелект (ОИИ) с човешки образ и изрази тревога заради шпионска заплаха от страна на Китай в тази област.

“Ако и когато ККП [Китайската комунистическа партия] се заинтересува от ОИИ, трябва да очакваме от тяхна страна неимоверни усилия за конкуренция. И аз мисля, че има съвсем ясна пътека как Китай да влезе в играта: да изпревари САЩ, като открадне алгоритмите“, пише Ашенбренер.

Според г-н Ашенбренер без засилени мерки за сигурност в следващите няколко години ККП ще занесе у дома „ключови пробиви в областта на ОИИ“.

“Това ще бъде най-голямото съжаление на елита по национална сигурност, преди десетилетието да свърши, пише той и предупреждава, че „запазването на свободния свят срещу тоталитарните държави е под въпрос“.

Ашенбренер иска по-сериозна сигурност за т.нар. „AI model weights“ – числовите стойности, които отразяват силата на връзките между изкуствените неврони – и, в частност, за тайните на алгоритмите, където в сегашната ситуация според него са направени сериозни пропуски.

„Мисля, че липсата на сигурност за тайните на алгоритмите е най-вероятният начин, по който Китай може да остане в надпреварата за ОИИ”, пише той. „Трудно е да се установи в колко лошо състояние е сигурността на тайните на алгоритмите.“

Г-н Ашенбренер твърди също, че ОИИ може да даде тласък на суперинтелекта за малко над пет години, като автоматизира развитието на самия ИИ.

Записките на г-н Ашенбренер, озаглавени „Информираност за ситуацията: предстоящото десетилетие“, предизвикаха редица реакции в света на технологииите. Ученият Скот Арънсън, специалист в областта на компютрите ги описва като “един от най-необикновените документи, които съм чел”, докато софтуеърният инженер Грейди Бууч написа в Х, че много елементи в нея са изначално, притеснително, потресаващо погрешни”.

„Отдавна е време да регулираме тази област“, пише Джейсън Лоуи-Грийн от Центъра за ИИ политики в коментар за публикацията на г-н Ашенбренер.

Отново по X Джейсън Колбърн от Кампанията за сигурност на ИИ отговаря на забележката за ИИ състезание между САЩ и Китай с предложение за „глобално неразпространение, започващо с двустранно споразумение между САЩ и ККП“.

В последните седмици изследователи на ИИ от Google и DeepMind са публикували писмо, предупреждавайки, че ИИ технологията представлява „сериозен риск“, стигащо до и включващо „унищожението на хората“.
 

Регулация на ИИ

„Осведоменост за ситуацията“ излиза, когато законодателните институции на САЩ и държавите по света са се заели с регулациите на ИИ.

През март 2023 г. Европейският парламент приема широкообхватния Закон за изкуствения интелект, като няколко месеца преди това държавите членки са постигнали съгласие по предложението.

Двупартийният закон ENFORCE, представен наскоро в Конгреса на САЩ, ще позволи на Департамента към Търговското бюро за индустрия и сигурност да наложи place контрол върху износа на ИИ технологии.

В постановление от 10-ти май към законопроекта, конгресменът Раджа Кришнамурт (Дем. – Илинойс), член на Избрания комитет за Китайската комунистическа партия, предупреди, че според сегашния закон „нашият комитет за национална сигурност няма властта, нужна да предотврати това Китайската комунистическа партия, армията ѝ и пряко контролираните от нея компании да получат ИИ системи, които да помогнат за бъдещи кибератаки срещу САЩ.“

Ашенбренер казва, че от отдела за човешки ресурси на OpenAI са нарекли предупрежденията му за ККП „расистки“

Г-н Ашенбренер издава „Осведоменост за ситуацията“ няколко месеца след като е напуснал OpenAI по доста противоречив начин. Във фирмата той е част от екипа за суперстандартизиране.

Обвиненията към г-н Ашенбренер са, че през април той, заедно с още един служител на OpenAI са позволили „изтичане на информация“. В интервю от 4 юни с Дуаркеш Пател г-н Ашенбренер, на въпрос за това, отговаря, че „изтичането“ е свързано  с документ за сигурност, даден на трима изследователи, несвързани с OpenAI.

„Но по това време в OpenAI беше напълно нормално да се споделят идеи за сигурност с външни колеги, за получаване на обратна връзка“.

Г-н Ашенбренер свързва уволнението си с въпросите, повдигнати от него във връзка с възможни кражби на интелектуална собственост от страна на Китай.

Той казва на г-н Пател, че е бил предупреден официално от отдела за човешки ресурси на компанията, след като е направил чернова на документ за сигурност, в който споменава заплахата от ККП и го е споделил с борда на OpenAI.

„Човекът от отдела за човешки ресурси ми каза, че е расистко да се безпокоя за шпионаж от страна на ККП.“ Той добавя, че по-късно заради този документ е информиран, че е уволнен, а не просто предупреден.

Двамата тиймлидери на екипа по супернапасване (между интелекта на човека и изкуствения интелект – бел.прев.) Иля Сътскевър и Ян Лейке са напуснали OpenAI в средата на май.

„През последните няколко години процесите по сигурността отстъпиха място на бляскави продукти“, пише г-н Лейке в Х.

„Отдавна закъсняхме да реагираме на усложненията, свързани с разработването на ОИИ. Трябва да превърнем в приоритет подготовката си за тях по възможно най-добрия начин“, допълва той.

Г-н Ашенбренер е роден в Германия. Завършил е с докторска степен университета в Колумбия като първенец на випуска на 19 години. Той посвещава своята „Осведоменост за ситуацията“ на г-н Сътскевър, компютърен специалист от канадско-израелски произход, роден в Русия.

Текстът е преведен от англоезичния "Епок Таймс"

 

Представете си какво правят с нас АНГЛОСАКСОНЦИ И ЕВРЕИ, хазаро-ашкенази предимно...
Представете си и какво правят с нас, ИЗРОДИТЕ, ДЕГЕНЕРАТИТЕ, ПОДЧОВЕЦИТЕ, СГАНТА ОТ ДАВОС и сие!
Тези уроди всичките го знаят много добре и затова знаят, лудите кучеядци от Китай как могат да им "стъпят на врата" със създадения от тях "Франкенщайн", който трябва да замени човешкия фактор!
Имате ли идея за какво говорим?
Щом кучеядците могат да "яхнат" тях, какво остава за поробена страна като нашата?
Дали контрола над всяка наша крачка и мисъл, не е тотален от страна на нашествениците, колонизаторите, узурпаторите, ИЗЧАДИЯТА НА САТАНАТА?!...

Видеото е добавено от мен, относно уродите, готвещи ни това и водещи ни, а нас вече довели ни до това!
Имаше едно култово интервю с един от специалистите на "силиконовата долина" в САЩ, който знаейки какво създават си беше подготвил землянка в една дълбока гора под вековно дърво, оборудвана с всичко нужно, включая със свои източници на енергия и вода и с всякаква техника.
На метри под земята беше...
Други световни изроди си подготвили кораби в които да се изолират в случай на грешка...

Откъде ги изнамираш тия глупости? – Китайската комунистическа партия и шпионаж.
Господи, сляз и си прибери вересиите.

Преди Китай, нали се сещаш, че ни "лекуват" с това Англия, "Израел", САЩ, една голяма част от света, Канада, колективната англосаксонщина...
А Китай е бъдещия "план Б" на "форумци" от Давос ако САЩ или евентуално Канада не се справят със задачите, както и ЕС...
Той е "насоченото дуло" към тях и размятаното чучело, но може да стане като се сетя, че един ден ще изядат всички кучета около тях и реална заплаха...
За Запада и за русите, защото нас няма да ни има дотогава. Тия уроди сега дето са ни налазили ще ни свършат и може да не оставят нищо за засега присъдружните им кучеядци...

Що? Китай нема сили да тури край на САЩ и то в Азия ли?
Една сериозна част от Русия е налазила вече на Юг, както нас неоосманлиите... По благоволение на жидове и англосакси.
Но не е такъв сценария на Лондон, Тел Авив и "давосци"...
Скоро обаче, САЩ ще грохнат от техните експерименти, щото изчерпаха ресурсите и нямат повече капацитет да заграбват за разлика от Китай..
А изисквачите не дават и не сочат изход.
Както Свинтила беше казал - "и десет планети с ресурсите им, няма да стигнат за антантските безкрайни антиприродни експерименти"... Цитирам по памет.

Беше казал още и че заграбеното от антантци, няма как да ги доведе до щастие, защото на тях им липсва АФИНИТЕТА КЪМ ТРУД И ОБЛАГОРОДЯВАНЕ за разлика от при ограбените от тях.
Ерго, българи, германци и унгарци...
Защото повечето от тях и особено англосаксонци, жидове-секта и измислени и новопръкнати "нации" като поляци и чехи са пълни или почти ПАРАЗИТИ през цялата си история, кой от пиратство, кой от изнудване и все наготово...
Кой от колонии и робски труд.
Ние българите РОБИ СМЕ НЯМАЛИ НИКОГА, когато многократно сме били ПОБЕДИТЕЛИ И ИМПЕРИЯ... Вражеските спомени през вековете от победите ни го признават и са го запечатали, че имаме "органическо и необяснимо презрение към робството и робовладелството"...
И това важи за всички наши славни и велики династии, които историята познава.
Известни сме само с разгрома на робовладелски империи и връщане свободата на робите.

И бих искал да кажа, че РОБИ НЕ СМЕ БИЛИ И НЯМА ДА БЪДЕМ, но днес вече имащите се за българоподобни около мен СА и то неспасяеми...
Верно ни "смениха чипа", а може би и гените...
Масов садо-мазохизъм и стокхолмски синдром около мен... И то у хора, които ги имах за бойци срещу системата...

В Ухан, чии са лабораториите?
Как се вписва това във вашите догми, че така да се каже комунистическите партии, "воювали" некъде с капитализма и световното АНГЛО-ЖИДОВСКО ЗАДКУЛИСИЕ И ХЕГЕМОНИЯ, които естествено са скачени вечно съдове?
Та къде са корените на капитализма и кои са неговите "апологети"?
Бил ГЕЙтс, психопата, нещо "онбеш" с Китай? Както и част от "демо(НО)кратите" на САЩ с част от ККП? Баш буржоазната и върхушка, станала феодална?
Нещо масонски ложи, "дракони" и сие?...
Кво ще ни разкажеш по тая тема или как ще опровергаеш фактите?
ГЕЙтс си бил изнесъл капиталите в Китай, викат?...

Другаде в Азия не го щяли....
Например монархиите на които се предлагал, макар и там да е пробил, а и най му харесал китайския "челен опит" на пречупвания...
Като на "баш" демократ... "Сменящ чипове", вече и буквално.