Това е основното опасение, изразено в отворено писмо и подписано от заинтересовани учени, включително от Елон Мъск, Стив Возняк и Стивън Хокинг. Ето какво се казва в него: „Ако някоя голяма военна сила започне да развива оръжие с изкуствен интелект (AI), крайната точка на подобна технологична траектория е очевидна: автономните оръжия ще станат калашниците на утрешния ден“.
Future of Life Institute, основана на доброволчески труд изследователска организация, която публикува писмото, има за цел да „максимизира бъдещите ползи от AI, но като се избегнат капаните“. През януари, тя публикува отворено писмо, също подписано от Мъск, Хокинг и Возняк, относно необходимостта да се създават преди всичко полезни системи с изкуствен интелект. Настоящото писмо, публикувано в понеделник, най-вероятно е свързано с Международната конференция по изкуствен интелект в Буенос Айрес. Едно нещо прави впечатление – в писмото липсва подписа на един от водещите умове в роботиката – Колин Ейнджъл, съосновател и главен изпълнителен директор на IROBOT, компания, произвеждаща различни полу-автономни военни роботи.
„Ние не искаме да спираме тази технология“, каза Тоби Уолш, професор по изкуствен интелект в университета на Южен Уелс в Сидни, Австралия и един от главните инициатори на това писмо. Целта на подписалите се под него е да предотвратят възможността оръжия с изкуствен интелект да се продават от производители на оръжие. Те предупреждават, че „военната надпревара с AI оръжие е лоша идея, и трябва да бъде предотвратена чрез забрана за създаването на автономни оръжия извън смисления, осъзнат човешки контрол.“
Според Уолш инициативата трябва да получи подкрепата на изследователите и учените в областта на AI, за да може забраната да се обсъди от ООН и Женевската конвенция. Той настоява, че загрижеността не е за самото естество на изкуствения интелект, а за неправилната му употреба и злоупотребата с него. „Вземете една автономна кола … променете няколко реда в нейния софтуерен код и вече имаме автономна управляема ракета“, каза той. Освен това Уолш не вярва на твърденията, че изкуствения интелект би дал възможност за нов вид „хирургически чиста“ война. „Лично аз съм много против технологии, които се преструват, че могат да направят войната „чиста“ и „хирургическа“. Предпочитам да мисля, че войната винаги трябва да бъде брутална и кървава, за да сме наясно с последиците.“ Когато го попитали защо води тази анти-изкуствен-интелект риторика и страхува ли се от въстание на роботите, Уолш коментирал, че ако забраната не стане факт, развитието на иновациите при AI технологиите ще бъде подтиснато, защото винаги ще има реакции от типа на „тези зли учени работят върху смъртоносни интелигентни оръжия.“
Когато Ланс Юланов, сътрудник на електронната медия Mashable, задава въпрос на Уолш дали има някакви роботи у дома, той бързо отговорил, че няма. Въпреки това, пет годишната му дъщеря има говореща кукла, наречена My Friend Kayla. Когато Уолш попитал дъщеря си „Коя е най-високата планина в света ?,“ тя бързо отговорила „Еверест“.
„Кой ти каза това?“, попитал той. Тя отговорила: „Попитах Kayla.“
Докато тази кукла си остане НЕвъоръжена, всички ние можем да сме спокойни.