Въпросът за безопасността на изкуствения интелект отново излезе на преден план, след като изпълнителният директор на OpenAI Сам Алтман направи изявление на пресконференция в Сан Франциско. Това бе първата му публична поява след предупреждения на бивш служител на Anthropic, според когото човечеството може да изчезне до края на десетилетието, ако развитието на умните модели не бъде забавено.
Страхове и доверие
Алтман призна, че обществото има основателни причини за притесненията си относно технологичния напредък. В същото време той призова хората да се доверят на компаниите, които разработват тези системи.
„Наясно сме с мащаба на дейността си. Светът трябва да вярва, че ще постъпим правилно“, заяви той. По думите му потенциалните рискове са сериозни, но екипите, които създават тези модели, носят отговорност за тяхното етично и безопасно внедряване.
Изказването му идва на фона на засилено напрежение в технологичния сектор. Множество експерти и анализатори подкрепят призивите за забавяне на темповете, с които се обучават мощните модели.
Основният аргумент на критиците е, че без строг контрол рисковете за човешката цивилизация стават твърде големи. Затова голяма част от професионалната общност настоява правителствата по света да участват активно в изработването на регулации за изкуствения интелект, така че да се намери баланс между иновациите и защитата от неконтролируеми технологични заплахи.
