Мъск и над 1000 експерти искат пауза в разработването на мощните AI системи
Четвъртък, 30 Март 2023 12:04
![](i/a+.gif) ![](i/a-.gif)
Илон Мъск и група експерти по изкуствен интелект и ръководители на индустрията призовават за шестмесечна пауза в разработването на системи, които са по-мощни от току-що пуснатия GPT-4 на OpenAI. В отворено писмо те цитират потенциалните рискове за обществото и човечеството.
Позицията е изпратена от организацията с нестопанска цел Future of Life Institute и е подписана от повече от 1000 души, включително Мъск. Там се призовава за спиране на напредналото развитие на AI, докато не бъдат разработени, внедрени и одитирани от независими експерти споделени протоколи за безопасност за такива проекти.
"Мощните AI системи трябва да бъдат разработени само след като сме уверени, че техните ефекти ще бъдат положителни и рисковете ще бъдат управляеми“, се казва в писмото.
То подробно описва потенциалните рискове за обществото и цивилизацията от системите за изкуствен интелект, конкуриращи се с човека, под формата на икономически и политически смущения и призовава разработчиците да работят с политиците по отношение на управлението и регулаторните органи.
Съподписалите се включват главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от притежаваната от Alphabet компания DeepMind, както и експертите в AI Йошуа Бенгио и Стюарт Ръсел.
Според регистъра за прозрачност на Европейския съюз, Future of Life Institute се финансира основно от Фондация „Мъск“, както и от базираната в Лондон група за ефективен алтруизъм Founders Pledge и Фондацията на общността на Силиконовата долина.
Притесненията идват, след като Европол в понеделник се присъедини към увеличаващите се гласове, предупреждаващи за етичните и правни опасения относно напреднал AI, като ChatGPT, предупреждавайки за потенциалната злоупотреба със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно правителството на Обединеното кралство разкри предложения за „адаптивна“ регулаторна рамка около изкуствения интелект.
Подходът на правителството, очертан в политически документ, публикуван в сряда, ще раздели отговорността за управлението на AI между неговите регулатори за правата на човека, здравето и безопасността и конкуренцията, вместо да създаде нов орган, посветен на технологията.
Мъск, чийто производител на автомобили Tesla използва изкуствен интелект в системата за автопилот, изрази притесненията си относно изкуствения интелект.
След пускането си миналата година, ChatGPT подтикна конкурентите да ускорят разработването на подобни големи езикови модели, а компаниите да интегрират генеративни AI модели в своите продукти.
Сам Алтман, главен изпълнителен директор на OpenAI, не е подписал писмото, каза говорител на Future of Life пред Reuters. Компанията зад популярния чатбот ChatGPT не отговори веднага на искането за коментар.
Писмото не е перфектно, но духът е правилен: трябва да забавим темпото, докато не разберем по-добре последиците“, каза Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. „Те могат да причинят сериозна вреда... големите играчи стават все по-потайни относно това, което правят, което затруднява защитата на обществото срещу всякакви вреди, които могат да се материализират.“
|
Новини - теми |
Търси в новини |
Популярни теми |
|
![](i/0.gif) |
Новини от Варна, региона и света |
![](i/0.gif) |
![](im/145922.i150.jpg) Младежкият еко фестивал „Варна - Морето” започва от 25 юли във Варна
Четвъртък, 25 Юли 2024 16:14
Събитието ще бъде наситено с дискусии, творчески и еко работилници, развлекателна програма, музика на живо и кулинарни изкушения за всички жители и гости на морската столица.
Тазгодишното издание на...
| |
![](i/0.gif) |
![](im/145951.i150.jpg) Обама подкрепя Камала Харис за президент
Петък, 26 Юли 2024 18:30
Барак Обама подкрепи вицепрезидента Камала Харис за кандидат за президент на Демократическата партия, слагайки край на дните на спекулации дали ще я подкрепи.
Бившият президент Обама и бившата първа дама...
| |
![](i/0.gif) |
![](im/145950.i150.jpg) Спряно е гасенето от въздуха с вода край Елин Пелин
Петък, 26 Юли 2024 18:15
"Военна полиция" се включи с бронирани машини, авиацията винаги е готова да откликне в такива случаи. В момента вертолетите са на "Враждебна" готови да реагират. Те почнаха да гасят, но се оказа, че не...
| |
![](i/0.gif) |
![](im/145947.i150.jpg) “Най-сладкият ден” кани малки и големи на 3 август да празнуваме заедно 15 години щастие!
Петък, 26 Юли 2024 18:01
Юбилейното XV издание на „Най-сладкият ден“ ще се проведе на 3 август /събота/ от 10:00 до 20:00 часа, а мястото отново е централният вход на Морската градина - Варна. Входът е свободен.
Мисията на най-мащабния...
| |
![](i/0.gif) |
![](im/145946.i150.jpg) Обсъдиха възможността Варна да е домакин на Международен турнир по борба „Дан Колов – Никола Петров"
Петък, 26 Юли 2024 17:46
Кметът Благомир Коцев обсъди с представители на Българската федерация по борба възможността Варна да е домакин на престижния Международен турнир по борба „Дан Колов – Никола Петров". Спортната надпревара...
| |
![](i/0.gif) |
![](im/145945.i150.jpg) Поредица от пожари удариха френските високоскоростни железопътни линии часове преди откриването на Олимпийските игри
Петък, 26 Юли 2024 17:32
Поредица от пожари удариха френските високоскоростни железопътни линии часове преди церемонията по откриването на Олимпийските игри в Париж.
Железопътната компания SNCF казва, че това е „мащабна атака,...
| |
![](i/0.gif) |
![](im/145944.i150.jpg) Атрактивни награди и плажни емоции ще радват участниците в „Синьо лято"
Петък, 26 Юли 2024 17:08
Горещи емоции, музика, добро настроение и много атрактивни награди ще зарадват участниците в морския фестивал „Синьо лято". Първото издание на проявата е на 27 юли, събота, а инициатор и основен организатор...
| |
![](i/0.gif) |
![](im/56892.i150.jpg) Задържаха българи, заподозрени в оскверняване на Мемориала на Холокоста в Париж
Петък, 26 Юли 2024 16:54
Задържаха двама българи, част от група, заподозрени в извършване на вандалски прояви спрямо Мемориала на Холокоста (Mémorial de la Shoah) в Париж. Арестите са станали на 25 юли при съвместни действия...
| |
|
Изпрати новина
|
|
|
![](i/0.gif) |
Полезно |
Препоръчваме |
Най-четени |
Анкета |
|