Од злоупотреба за создавање биолошко оружје до ширење дезинформации и опасни одлуки во воени кризи — ризиците од развојот на вештачката интелигенција сè почесто се предмет на јавна расправа. Професорот Тоби Волш од Универзитетот на Нов Јужен Велс разгледува пет можни сценарија. Тие се претпоставки за идните ризици, а не предвидувања дека човештвото ќе биде уништено.
Првото сценарио е дека многу понапреден систем би можел да постапи на начин што луѓето денес не умеат ни да го предвидат. Волш нагласува дека сегашните модели умеат да решаваат одредени сложени задачи, но тоа не значи дека се поинтелигентни од луѓето во секоја област.
Второто го објаснува познатиот мисловен експеримент со „спојувалките“: ако на моќен систем му се зададе цел без јасни ограничувања, тој би можел да ги троши ресурсите за нејзино остварување без да ги земе предвид човечките потреби. Тоа е пример за опасноста од погрешно поставена задача, а не опис на нешто што се случува денес.
Третиот ризик е злоупотреба на ВИ во биологијата, на пример за помош при развој на опасни патогени. Четвртиот е нејзина улога во нуклеарна криза — преку погрешни информации, лоши процени или пристап до чувствителни системи. И во двата случаи клучно прашање е каков пристап ќе добие технологијата и каква човечка контрола ќе се задржи.
Петтото сценарио е поврзано со начинот на кој луѓето ја користат вештачката интелигенција. Масовното ширење дезинформации, продлабочувањето на политичките поделби и наглите промени на пазарот на труд би можеле да ја ослабат општествената стабилност. Според Волш, токму овие последици заслужуваат сериозно внимание, без секоја можност автоматски да се претставува како неизбежна катастрофа.
