Въпросът за безопасността на изкуствения интелект отново излезе на преден план, след като изпълнителният директор на OpenAI Сам Алтман направи изявление на пресконференция в Сан Франциско.
Страховете от AI и призивите за доверие
Това беше първата му публична поява след предупрежденията на бивш служител на Anthropic, според когото човечеството може да изчезне до края на десетилетието, ако развитието на умните модели не бъде забавено.
Алтман призна, че обществото има напълно основателни причини за тревога заради технологичния напредък. В същото време той призова хората да се доверят на компаниите, които разработват тези системи.
„Наясно сме с мащаба на дейността си. Светът трябва да вярва, че ще постъпим правилно“, каза той. По думите му екипите, които създават тези модели, носят отговорността за тяхното етично и безопасно внедряване.
Изказването му идва на фона на засилено напрежение в технологичния сектор. Множество експерти и анализатори настояват за забавяне на темпа, с който се обучават мощните модели.
Основният им аргумент е, че без строг контрол рисковете за човешката цивилизация стават твърде големи. Затова голяма част от професионалната общност призовава правителствата по света да изработят регулации за изкуствения интелект, които да запазят баланса между иновациите и защитата от неконтролируеми заплахи.
