Въведение
Вътрешни напрежения в OpenAI са станали явни, като служители на компанията изразяват притеснения, че новият модел изкуствен интелект, наречен Q*, може да представлява сериозна заплаха за човечеството. Това предупреждение беше изпратено в писмо до ръководството на компанията, предаде Ройтерс.
Моделът Q*
Стана ясно, че OpenAI работи върху модел с име Q*, който се счита за способен да решава сложни математически задачи, виждайки ги за първи път. Този модел се отличава от ChatGPT, тъй като работи не на статистически принцип, а на принципите на правила и логика.
Въпроси и призиви за забавяне
Способността на този модел да решава сложни задачи се разглежда като критичен етап в развитието на изкуствения интелект. Такива постижения могат да доведат до създаването на генеративен изкуствен интелект, който превъзхожда човешкия интелект в изпълнението на разнообразни задачи.
Мнозина експерти изразяват становището, че компаниите, занимаващи се с изкуствен интелект, трябва да бъдат предпазливи и да забавят развитието на подобни технологии, докато се разгледат и предотвратят възможните рискове за човечеството.
Позицията на OpenAI
След изпращането на писмото, главният изпълнителен директор на OpenAI, Сам Алтман, прекара четири дни в изгнание. OpenAI обаче не коментира конкретно писмото или възгледите на своите служители. В предишни случаи, Алтман беше явен в предупрежденията си за рисковете от развитието на изкуствения интелект.
Регулация и безопасност
Докато OpenAI утвърждава ангажимента си към разработването на безопасен изкуствен интелект в полза на хората, в САЩ все още липсва консенсус за това как и дали да се регулира тази област. Европейският съюз работи по свой собствен закон за изкуствения интелект, но в САЩ дискусиите продължават.
Анализ на сътресенията
Някои анализатори считат, че вътрешните напрежения в OpenAI са резултат от сериозни разногласия относно темпа и предпазните мерки, които следва да бъдат предприети при развитието на изкуствения интелект. Този инцидент подчертава необходимостта от изясняване и управление на рисковете свързани с тази нова технология.
Още новини по темата вижте тук.
