Система с изкуствен интелект ще работи съвместно с хора, за да направи откритие, достойно за Нобелова награда, в рамките на 12 месеца, а след две години занаятчиите ще бъдат подпомагани от двукраки роботи. Това смята съоснователят на Anthropic Джак Кларк, цитиран от "Гардиън".
Той описа "главозамайващо усещане за напредък" в развитието на технологията и направи множество прогнози, включително за това, че в рамките на 18 месеца компании, управлявани изцяло от изкуствен интелект, ще генерират приходи от милиони долари, а до края на 2028 г. AI системите ще могат да проектират собствените си наследници.
В лекция в Оксфордския университет той заяви, че все още има правдоподобни сценарии, при които технологията има "ненулев шанс да убие всички хора на планетата", и че е "важно ясно да се каже, че този риск не е изчезнал". Най-популярният модел на Anthropic се нарича Claude, но компанията наскоро пусна версия, наречена Mythos, която се е оказала тревожно способна да използва слабости в киберсигурността.
Кларк отбеляза пред студентите, че би било по-добре, ако хората успеят да забавят развитието на технологията, "за да си дадем повече време като вид" да се справим с последиците от нейните способности. Според него обаче това няма да се случи заради главоломното развитие, движено "от различни играчи и различни държави, заключени в конкуренция помежду си, при която търговските и геополитическите съперничества често заглушават по-големите екзистенциални аспекти за човешкия вид на създаваната технология". По думите му това "не е идеално".
Кларк е една от най-високопоставените фигури в Anthropic, която е основана от AI изследователи, напуснали конкурентната компания OpenAI заради разногласия относно безопасността. Компанията, оценявана на 900 милиарда долара, е обвинявана от Белия дом на Доналд Тръмп и други привърженици на ускореното развитие на AI в "насаждане на страх", с цел да се насърчи регулация, която би затвърдила конкурентната ѝ позиция.
Anthropic оспорва тези обвинения, а Кларк отбеляза, че много хора отричат напредъка на AI. Той посочи, че иска да насърчи човечеството да се подготви за технология, която "скоро ще бъде по-способна от всички нас взети заедно". Сравнявайки неподготвеността за AI с неподготвеността за пандемии като Covid, той заяви: "Ако стоим безучастно и позволим на синтетичния интелект да се разраства, в крайна сметка ще бъдем принудени само да реагираме на последствията".
Критиците на водещите AI компании като Anthropic, OpenAI и Google се опасяват, че прекомерната зависимост от малък брой AI модели - подкрепени от огромни количества капитал, търсещ печалба - може да създаде "единна точка на провал" в глобалните системи.
Професор Едуард Харкорт - директор на Института по етика в AI, отделно предупреди, че възходът на AI системи, които вършат все повече неща вместо хората, рискува да доведе до "когнитивна атрофия", която може да отслаби човешката способност за вземане на решения и преценка. Той се застъпи за алтернативни AI модели, които изискват от хората да извършват повече от мисловния процес - понякога наричани "сократически" AI.
Кларк заяви, че най-консервативната му прогноза е, че "огромни части от икономиката и обществото ще преминат през дълбоки промени" - което може да включва машинна икономика, отделена от човешката икономика, роботи, които получават "мозъци", наука, развиваща се без участието на хора, както и научно оборудване, което хората дори не са си представяли, но което работи. Той призна, че част от това звучи "налудничаво".
