Скрытая угроза: искусственный интеллект может начать ядерную войну к 2040 году - SVOBODA-ON!

Зануда · 25.04.2018, 22:10

Исследователи рассчитали, что ИИ в будущем может спровоцировать одну из ядерных держав нанести упреждающий удар против другой нации.
Источник: Reuters

Цитата:

Американская некоммерческая организация RAND Corporation опубликовала исследование, согласно которому искусственный интеллект сможет потенциально привести мир к ядерной войне к 2040 году.

ИИ может подорвать геополитическую стабильность и нарушить статус ядерного оружия как средства сдерживания.
RAND Corporation

Аналитики утверждают, что хотя на протяжении десятилетий хрупкий мир поддерживался идеей того, что любое ядерное нападение может спровоцировать взаимное гарантированное уничтожение, потенциал ИИ и машинного обучения для принятия решений о военных действиях может означать, что отсутствие критического мышления у ИИ может дать неверную оценку ситуации. «Некоторые эксперты опасаются, что усиленная зависимость от искусственного интеллекта может привести к новым видам катастрофических ошибок», — сказал Эндрю Лон, соавтор статьи из RAND.

Авторы исследования считают, что в будущем улучшение технологий может привести к нарушению баланса сдерживающих сил, таких как подводные и мобильные ракеты. ИИ, используемый в качестве советника, может склонить человека к решению о нанесении упреждающего удара против другой нации: даже если противник не намерен нападать, но ИИ увидит возможность получения преимущества в результате атаки.

ИИ может оказаться «восприимчивым к состязательности». Следовательно, отметил Лон, сохранение стабильности в ближайшие десятилетия может оказаться чрезвычайно трудным, и все ядерные державы должны участвовать в создании институтов, которые помогут ограничить ядерные риск.

В документе RAND также подчеркивается опасность использования ИИ для принятия военных решений, а не угроза автономных беспилотных летательных аппаратов или роботов, об опасности которых постоянно предупреждает Илон Маск. Выступая на ежегодном фестивале технологий и культуры SXSW (South by Southwest) в Остине, штат Техас, он предложил создать общественный регулирующий орган, который будет следить за безопасностью разработок в области искусственного интеллекта и предусматривать все возможные риски.

Запомните мои слова: ИИ намного опаснее, чем ядерное оружие. Так почему у нас до сих пор нет нормативного надзора за ним?.
Илон Маск

полностью согласен с оратором.
ИИ-зло.

Reitarou · 25.04.2018, 22:15

Его еще создать надо...

Зануда · 25.04.2018, 22:16

Цитата:

Сообщение от Reitarou

Его еще создать надо...

много ума не нужно для этого.

Reitarou · 25.04.2018, 22:17

Reitarou · 25.04.2018, 22:17

Цитата:

Сообщение от Зануда

много ума не нужно для этого.

Но до сих пор не сделали, однако.

goust · 25.04.2018, 22:23

Цитата:

Сообщение от Зануда

много ума не нужно для этого.

Неужели?
Не сложнее чем новый сорт яблок вывести?

goust · 25.04.2018, 22:25

До ИИ еще далеко и неизвестно будет ли он
Ибо ИИ требует такого же объема памяти, ассоциативного мышления и эвристического подхода к информации, как у мозга. Ничего этого еще нет

георг1 · 25.04.2018, 22:26

Цитата:

Сообщение от Reitarou

Но до сих пор не сделали, однако.

А Мар?
Ярчайший представитель!
Украшение заштатного НИИ сесесера...

Reitarou · 25.04.2018, 22:27

Просто качественный бот-сноповязалка...

Черный модер · 25.04.2018, 22:48

Вы говорите тут про мегакрутой ИИ. Но полно обычных ИИ, которые тем-сем занимаются. Вроде автопилотов или в комп. играх, в стратегиях тех же. В общем, чтобы оценить выигрышность войны ИИ не нужно иметь ума прям как у Рафика с рынка.

Сойдет и попроще)

goust · 25.04.2018, 23:11

Чем интеллект отличается от алгоритма?

Тем что может обучаться сам без программиста, а не только подстраиваться под пользователя

Все автопилоты и комп игры это только отработка алгоритма, да и то с ошибками. Компы еще не умеют развиваться шире чем их архитектура. ИИ должен это уметь

Черный модер · 25.04.2018, 23:17

Цитата:

Сообщение от goust

Чем интеллект отличается от алгоритма?

Тем что может обучаться сам без программиста, а не только подстраиваться под пользователя

Все автопилоты и комп игры это только отработка алгоритма, да и то с ошибками. Компы еще не умеют развиваться шире чем их архитектура. ИИ должен это уметь

Чтобы отдать команду на запуск ракет компу не надо быть запредельно умным. Двигателем управлять не легче) Ну, или стиральной машиной)

Если то, то, то и это, то "пуск".

goust · 25.04.2018, 23:17

Никто не задумывался чем мозг отличается от процессора.

А тем что мозг это и процессор, и память, и интерфейс и порты датчиков т еще много чего, адресная шина и шина данных у него не ограничена аппаратно, а так же одини ресурс может легко заменить другой.

Назовите мне комп способный на такое...

Черный модер · 25.04.2018, 23:19

Цитата:

Сообщение от goust

Никто не задумывался чем мозг отличается от процессора.

А тем что мозг это и процессор, и память, и интерфейс и порты датчиков т еще много чего, адресная шина и шина данных у него не ограничена аппаратно, а так же одини ресурс может легко заменить другой.

Назовите мне комп способный на такое...

Ну вообще-то некоторые дохрена раз задумывались и книжек по теме с детских лет перечитали - во!)
А так же проводили различные творческие эксперименты)

Черный модер · 25.04.2018, 23:20

Из свежего - на той неделе учил компьютерного зомби гоняться за игроком по экрану))

goust · 25.04.2018, 23:21

Цитата:

Сообщение от Черный модер

Чтобы отдать команду на запуск ракет компу не надо быть запредельно умным. Двигателем управлять не легче) Ну, или стиральной машиной)

Если то, то, то и это, то "пуск".

Речь шла не только о логике, там еще надо принять решение на основе таких понятий как риск, вероятность риска, адекватность реакции, и много чего, а эти вещи не описываются цифрами, они эмпирические, на уровне ощущений, электроника их не воспринимает и нет математических моделей их описывающих

goust · 25.04.2018, 23:23

Цитата:

Сообщение от Черный модер

Ну вообще-то некоторые дохрена раз задумывались и книжек по теме с детских лет перечитали - во!)
А так же проводили различные творческие эксперименты)

И?

Научили клмп писать стихи, или скажем формировать моду на что то?

goust · 25.04.2018, 23:24

Цитата:

Сообщение от Черный модер

Из свежего - на той неделе учил компьютерного зомби гоняться за игроком по экрану))

Все верно, учил человек машину, точнее задавал параметры поиска

Черный модер · 25.04.2018, 23:26

Цитата:

Сообщение от goust

Речь шла не только о логике, там еще надо принять решение на основе таких понятий как риск, вероятность риска, адекватность реакции, и много чего, а эти вещи не описываются цифрами, они эмпирические, на уровне ощущений, электроника их не воспринимает и нет математических моделей их описывающих

Есть, например, такая вещь как теория игр. Там есть куча инструментов, позволяющих обнаружить и применить наивыгоднейшую стратегию.

Вообще, с началом войн справляются даже самые примитивные формы жизни. Неандертальцы, кошки с собаками, всякие там бактериофаги и т.д.
Ломать не строить - любой раздолбай может выпучить глаза, провещать про величие и нажать кнопку)

Черный модер · 25.04.2018, 23:29

Цитата:

Сообщение от goust

И?

Научили клмп писать стихи, или скажем формировать моду на что то?

Нет, но другие научали.
Вести беседы, скажем. На днях по диагонали читал где-то, что сказку писал ИИ , опираясь на тексты других сказок. Уверен, что особого смысла в той скащке не особо было, но так вы на фильмы современные в большинстве посмотрите, на книги. Жуть и муть))

Черный модер · 25.04.2018, 23:33

Цитата:

Сообщение от goust

Все верно, учил человек машину, точнее задавал параметры поиска

Ну да, я там и не заморачивался никак)
Так о том и речь - иногда и нет нужды что-то измышлять.
Можно прикрутить к ракетам таймер на запуск их 17.05.2049 в полдень - и это тоже будет пример атаки под управлением ИИ.
Спроектированного и настроенного человеком, да. Очень простого ИИ)

Зануда · 25.04.2018, 23:33

Проблема в том, что робот логичен, а человек нелогичен.

Т.е. если по всем параметрам, робот видит, что надо нанести удар, и отдает команду.
То человек понимает, что удар наносить нельзя ни в коем случае, потому что все кругом ложь и никто перный на кнопку нажимать не станет.

Возвращаемся к первоисточнику.

Творец намеревался создать мир и управлять мерой правосудия.
Что такое мера правосудия? - это точный подсчет всех + и - действий человека.
Т.е. простой подсчет, логика.

И вот когда мир был создан, то Творец увидел, что человек не сможет существовать, если управлять только логикой, т.е. мерой правосудия.
Поэтому Творец в большей степени управляет мерой милосердия, т.е. совершенно нелогичным качеством, который задерживает логичный подсчет.

Если робот видит баланс фирмы, то по результатам просчета баланса, выдает документы для обращения в арбитраж для взыскания долга.

Человек на месте директора, в той же ситуации просто прощает долг т.к... и тут куча нелогичных причин:
- начиная от того, что директор фирмы-должника когда-то помог ему,
- всегда выслушает (в отличии от остальных мудаков)
- а у его жены офигенные ноги и двое детей и если сейчас обанкротить эту фирму, то зачем ей (ее семье) проблемы с долгами?
- ну еще куча причин, совершенно нелогичных... как-то просто простить долг, потому что вчера его гаишник простил за какое-то нарушение.

т.е. все эти причины нелогичны и не поддаются логичному описанию математическим путем.

А ИИ в виде логичной машины создать не сложно.
Только дело в том, что умный человек понимает, что всеобъемлющий ИИ нахрен не нужен.
Нужны программы под конкретные задачи, запускаемые кнопкой человека.
Что мы и имеем.

goust · 25.04.2018, 23:36

Цитата:

Сообщение от Черный модер

Ну да, я там и не заморачивался никак)
Так о том и речь - иногда и нет нужды что-то измышлять.
Можно прикрутить к ракетам таймер на запуск их 17.05.2049 в полдень - и это тоже будет пример атаки под управлением ИИ.
Спроектированного и настроенного человеком, да. Очень простого ИИ)

Очень простой ИИ это арифмометр

goust · 25.04.2018, 23:38

ИИ на основе логики это не ИИ , а только логика

goust · 25.04.2018, 23:39

Цитата:

Сообщение от Черный модер

Нет, но другие научали.
Вести беседы, скажем. На днях по диагонали читал где-то, что сказку писал ИИ , опираясь на тексты других сказок. Уверен, что особого смысла в той скащке не особо было, но так вы на фильмы современные в большинстве посмотрите, на книги. Жуть и муть))

Если кто то не умнее еще не созданного ИИ, то это проблемы не ИИ

Зануда · 25.04.2018, 23:41

Цитата:

Сообщение от goust

ИИ на основе логики это не ИИ , а только логика

интеллект - это и есть логика - это способность принимать решения и выдавать результат на основе имеющихся данных.

у человека нет логичной цепочки при принятии решения.

один и тот же набор данных, может иметь три противоположных результата.
и какой результат выпадет даже сам человек за секунду до принятия решения, сам не знает.

goust · 25.04.2018, 23:44

Зануда, так и хочется посоветовать выпить яду

Интеллект и логика не одно и тоже, и можете нудеть сколько вздумается

Логика это суть математика, а что такое интеллект еще даже не определились, впрочем что такое челлвек тоже никто не знает.

Впрочем придурок Мар однажды утверждал что знает

goust · 25.04.2018, 23:47

Цитата:

Сообщение от Зануда

интеллект - это и есть логика - это способность принимать решения и выдавать результат на основе имеющихся данных.

у человека нет логичной цепочки при принятии решения.

один и тот же набор данных, может иметь три противоположных результата.
и какой результат выпадет даже сам человек за секунду до принятия решения, сам не знает.

Принятие решения на основе данных это алгоритм, я уже писал об этом выше.
Интеллект же должен быть даже не цифровым, поскольку оцифровывание уже дает потерю 99процентов инфы

Черный модер · 25.04.2018, 23:47

Цитата:

Сообщение от goust

Очень простой ИИ это арифмометр

Да. И по некоторым параметрам он, кстати, очень превосходит человека.

Черный модер · 25.04.2018, 23:49

Цитата:

Сообщение от goust

Интеллект и логика не одно и тоже, и можете нудеть сколько вздумается

Я бы сказал, что может быть логичный ИИ и нелогичный. Хороший и плохой. Качественный и так себе.

Или например принимающий решения на основе генератора случайных чисел. Он будет воистину непредсказуем и даже возможно эффективен в определенных случаях.)))

Зануда · 25.04.2018, 23:50

Цитата:

Сообщение от goust

Принятие решения на основе данных это алгоритм

алгоритм-это программа по принятию решения.
а не само принятие решения.

Зануда · 25.04.2018, 23:51

Цитата:

Сообщение от Черный модер

и нелогичный

не логичный, это не интеллект, а дебил.
Это если с точки зрения разума.

Зануда · 25.04.2018, 23:52

Цитата:

Сообщение от Черный модер

генератора случайных чисел

Черный модер · 26.04.2018, 00:02

Цитата:

Сообщение от Зануда

не логичный, это не интеллект, а дебил.
Это если с точки зрения разума.

Иногда дебил посрамляет мудрецов.))

Пока логика действий врага не разгадана, она тоже может казаться дебильной, к слову.

Ну и как не вспмнить про женщин, которые иногда окатывают нас своей "антилогикой" , но при этом дебилками не являются. Хотя мы называем их дурами.

goust · 26.04.2018, 00:05

Зануда, нудите дальше. И отдайте свой комп в НАТО для принятия решений по ПРО

Зануда · 26.04.2018, 00:09

Цитата:

Сообщение от goust

И отдайте свой комп в НАТО для принятия решений по ПРО

У НАТО компы, наверное, лучше моего, поэтому с точки зрения логики, нет смысла его отдавать.

георг1 · 26.04.2018, 00:45

Цитата:

Сообщение от goust

впрочем что такое челлвек тоже никто не знает.

Слишком самоуверенно,не?

johnlc · 26.04.2018, 15:31

в принципе компы уже на уровне возможностей мозга а по некоторым направлениям и впереди, вот только программы для самого себя не умеют еще писать, как научатся - то и будет ИИ.

25.04.2018, 22:15	#2
Reitarou F Регистрация: 06.10.2014 Сообщений: 47,330	Его еще создать надо... __________________ Претензия Билла Клинтона на изнасилование Хуаниты Броддрик «просрочена для повторного посещения»

25.04.2018, 22:17	#4
Reitarou F Регистрация: 06.10.2014 Сообщений: 47,330	__________________ Претензия Билла Клинтона на изнасилование Хуаниты Броддрик «просрочена для повторного посещения»

25.04.2018, 22:25	#7
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	До ИИ еще далеко и неизвестно будет ли он Ибо ИИ требует такого же объема памяти, ассоциативного мышления и эвристического подхода к информации, как у мозга. Ничего этого еще нет __________________ Правда у каждого своя. Истины не знает никто.

25.04.2018, 22:27	#9
Reitarou F Регистрация: 06.10.2014 Сообщений: 47,330	Просто качественный бот-сноповязалка... __________________ Претензия Билла Клинтона на изнасилование Хуаниты Броддрик «просрочена для повторного посещения»

25.04.2018, 23:11	#11
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	Чем интеллект отличается от алгоритма? Тем что может обучаться сам без программиста, а не только подстраиваться под пользователя Все автопилоты и комп игры это только отработка алгоритма, да и то с ошибками. Компы еще не умеют развиваться шире чем их архитектура. ИИ должен это уметь __________________ Правда у каждого своя. Истины не знает никто.

25.04.2018, 22:48	#10
Черный модер Moderator Регистрация: 23.03.2014 Сообщений: 45,805	Вы говорите тут про мегакрутой ИИ. Но полно обычных ИИ, которые тем-сем занимаются. Вроде автопилотов или в комп. играх, в стратегиях тех же. В общем, чтобы оценить выигрышность войны ИИ не нужно иметь ума прям как у Рафика с рынка. Сойдет и попроще)

25.04.2018, 23:17	#13
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	Никто не задумывался чем мозг отличается от процессора. А тем что мозг это и процессор, и память, и интерфейс и порты датчиков т еще много чего, адресная шина и шина данных у него не ограничена аппаратно, а так же одини ресурс может легко заменить другой. Назовите мне комп способный на такое... __________________ Правда у каждого своя. Истины не знает никто.

25.04.2018, 23:20	#15
Черный модер Moderator Регистрация: 23.03.2014 Сообщений: 45,805	Из свежего - на той неделе учил компьютерного зомби гоняться за игроком по экрану))

25.04.2018, 23:33	#22
Зануда лентяй и самодур Регистрация: 22.03.2014 Сообщений: 26,800	Проблема в том, что робот логичен, а человек нелогичен. Т.е. если по всем параметрам, робот видит, что надо нанести удар, и отдает команду. То человек понимает, что удар наносить нельзя ни в коем случае, потому что все кругом ложь и никто перный на кнопку нажимать не станет. Возвращаемся к первоисточнику. Творец намеревался создать мир и управлять мерой правосудия. Что такое мера правосудия? - это точный подсчет всех + и - действий человека. Т.е. простой подсчет, логика. И вот когда мир был создан, то Творец увидел, что человек не сможет существовать, если управлять только логикой, т.е. мерой правосудия. Поэтому Творец в большей степени управляет мерой милосердия, т.е. совершенно нелогичным качеством, который задерживает логичный подсчет. Если робот видит баланс фирмы, то по результатам просчета баланса, выдает документы для обращения в арбитраж для взыскания долга. Человек на месте директора, в той же ситуации просто прощает долг т.к... и тут куча нелогичных причин: - начиная от того, что директор фирмы-должника когда-то помог ему, - всегда выслушает (в отличии от остальных мудаков) - а у его жены офигенные ноги и двое детей и если сейчас обанкротить эту фирму, то зачем ей (ее семье) проблемы с долгами? - ну еще куча причин, совершенно нелогичных... как-то просто простить долг, потому что вчера его гаишник простил за какое-то нарушение. т.е. все эти причины нелогичны и не поддаются логичному описанию математическим путем. А ИИ в виде логичной машины создать не сложно. Только дело в том, что умный человек понимает, что всеобъемлющий ИИ нахрен не нужен. Нужны программы под конкретные задачи, запускаемые кнопкой человека. Что мы и имеем.

25.04.2018, 23:38	#24
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	ИИ на основе логики это не ИИ , а только логика __________________ Правда у каждого своя. Истины не знает никто.

25.04.2018, 23:44	#27
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	Зануда, так и хочется посоветовать выпить яду Интеллект и логика не одно и тоже, и можете нудеть сколько вздумается Логика это суть математика, а что такое интеллект еще даже не определились, впрочем что такое челлвек тоже никто не знает. Впрочем придурок Мар однажды утверждал что знает __________________ Правда у каждого своя. Истины не знает никто.

26.04.2018, 00:05	#35
goust Handwerker Регистрация: 23.03.2014 Сообщений: 4,502	Зануда, нудите дальше. И отдайте свой комп в НАТО для принятия решений по ПРО __________________ Правда у каждого своя. Истины не знает никто.

26.04.2018, 15:31	#38
johnlc F Регистрация: 22.03.2014 Сообщений: 9,674	в принципе компы уже на уровне возможностей мозга а по некоторым направлениям и впереди, вот только программы для самого себя не умеют еще писать, как научатся - то и будет ИИ.

Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)