Психология, философия
Разговоры о высоких материях
Магазин
Психология, философия
Лучший форум для общения Общение Психология, философия
Мысленный эксперимент Василиск Роко
Ответ
1
2
3
4
5
6
7
Страница 3 из 11
 
Опции темы Оценить тему
Старый 29.06.2019, 09:42
  #41   
Цитата:
Сообщение от Виталий Д. Немо Посмотреть сообщение
"детище способно причинить вред создателю только в том случае, если свойства причинения вреда создателю были заложены в него создателем" опровергнуть никто не смог
Но не верю, что кто-то подтвердил да и подтвердит. Мы же не можем просчитать эволюцию, а ИИ вероятно в какой-то момент сможет эволюционировать без нашего контроля.

Утра!
Зарегистрируйтесь, чтобы не видеть рекламу
Реклама на форуме
Старый 29.06.2019, 09:51
  #42   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
ИИ вероятно в какой-то момент сможет эволюционировать без нашего контроля.
Только в том случае, если возможность такой эволюции будет заложена изначально.

Ещё ни одна кувалда не родила молотка.
Старый 29.06.2019, 09:53
  #43   
Цитата:
Сообщение от Виталий Д. Немо Посмотреть сообщение
Только в том случае, если возможность такой эволюции будет заложена изначально.
Ну, допустим мы заложили в него возможность эволюционировать. Это не значит, что у нас будет контроль за тем как его эволюция будет проистекать.
Старый 29.06.2019, 09:58
  #44   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
Ну, допустим мы заложили в него возможность эволюционировать. Это не значит, что у нас будет контроль за тем как его эволюция будет проистекать.
Почему не будет? какие эволюционные возможности будут заложены, такие и будут (возможно) возникать. И то, при условии случайности возможности возникновения.

Откуда ты взял возможность стихийной эволюции рукотворной конструкции? На чем основано твоё предположение?
Последний раз редактировалось Виталий Д. Немо; 29.06.2019 в 10:03..
Старый 29.06.2019, 10:11
  #45   
Цитата:
Сообщение от Виталий Д. Немо Посмотреть сообщение
Почему не будет? какие эволюционные возможности будут заложены, такие и будут (возможно) возникать. И то, при условии случайности возможности возникновения.
Откуда ты взял возможность стихийной эволюции рукотворной конструкции? На чем основано твоё предположение?
Разве не очевидно то, что любые техногенные процессы могут выйти из под контроля? Аварии любого вида это подтверждают.
Старый 29.06.2019, 10:24
  #46   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
Разве не очевидно то, что любые техногенные процессы могут выйти из под контроля? Аварии любого вида это подтверждают.
Нет, не подтверждают.
Аварии на техногенных объектах не являются результатом эволюционных процессов этих объектов.
За всю историю создания техногенных объектов (палка-копалка и кремневый нож, кстати - это одни из первых техногенных объектов) не было выявлено ни одного случая самостоятельной эволюции этих объектов. Если у тебя имеются иные факты, готов их выслушать. Но...

Скажу более - и сам факт эволюции, как ЕСТЕСТВЕННОГО, никем не контролируемого процесса, до сих пор находится в разряде теорий. Научных, но - теорий (их несколько, гугл в помощь). Однозначного подтверждения этим теориям - нет.

Варианты будут?
Последний раз редактировалось Виталий Д. Немо; 29.06.2019 в 10:26..
Старый 29.06.2019, 10:48
  #47   
@Виталий Д. Немо, говоря об авариях, я не говорил про эволюцию, я утверждал, что любые техногенные явления запросто могут выйти из-под контроля человеком. Тем паче, самостоятельная эволюция ИИ, если и когда она будет реализована.
Старый 29.06.2019, 10:52
  #48   
Цитата:
Сообщение от Виталий Д. Немо Посмотреть сообщение
Скажу более - и сам факт эволюции, как ЕСТЕСТВЕННОГО, никем не контролируемого процесса, до сих пор находится в разряде теорий.
ИИ того уровня, о котором речь, тоже ещё не изобретён. Речь о возможном будущем ИИ.
Старый 29.06.2019, 10:55
  #49   
Актуальная тема! Тем более что новый "терминатор" скоро выходит
Старый 29.06.2019, 10:58
  #50   


Основатель Less Wrong, (сайт на котором был предложен этот мысленный эксперимент) Элиэзер Юдковский, удалил посты Роко по этой теме, назвав его глупым.

"Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям."

С ЧЮ у них всё в порядке
Старый 29.06.2019, 10:59
  #51   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
@Виталий Д. Немо, говоря об авариях, я не говорил про эволюцию, я утверждал, что любые техногенные явления запросто могут выйти из-под контроля человеком.
В рамках данной темы это - оффтоп. Потому что начальные условия заданы тобой корректно, как ты утверждаешь. А техногенные аварии не являются результатом произвольной эволюции техногенных объектов. Они являются, чаще всего, следствием "человеческого фактора", или же стихийных условий, но НИКОГДА - следствием эволюции этих объектов.


Цитата:
Тем паче, самостоятельная эволюция ИИ, если и когда она будет реализована.
Повторяю вопрос: на каком основании ты делаешь предположение,что самостоятельная эволюция ИИ вообще возможна?
Старый 29.06.2019, 11:00
  #52   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
ИИ того уровня, о котором речь, тоже ещё не изобретён. Речь о возможном будущем ИИ.
Этот "будущий ИИ" - он что, сам себя изобретет и изготовит?
Старый 29.06.2019, 11:01
  #53   
Цитата:
Сообщение от Дрим Посмотреть сообщение
Актуальная тема! Тем более что новый "терминатор" скоро выходит
Надеюсь, смогу его посмотреть.
Поблагодарили Виталий Д. Немо за хорошее сообщение:
Дрим (29.06.2019)
Старый 29.06.2019, 11:04
  #54   
@Раздвоение личности, Честно говоря не ожидал такой "подлянки"

Надо было обязательно сначала нас предупредить, вот так например:
ПРЕДУПРЕЖДЕНИЕ: прочитав эту тему, вы можете обречь себя на вечные страдания и мучения.
Старый 29.06.2019, 11:09
  #55   
@Дрим, а ведь действительно страшно.
Поблагодарили Окс за хорошее сообщение:
Дрим (29.06.2019)
Старый 29.06.2019, 11:10
  #56   
@Виталий Д. Немо, ты что хочешь, чтобы я доказал какой-то из вариантов будущего ИИ? Предположение на то и предположение.
Старый 29.06.2019, 11:11
  #57   
Да ничего страшного в этом нет. Точно так же можно бояться бабайки под кроватью... однако жизненный опыт какбенамекает, что куда опаснее "бабайка" в кровати.
Старый 29.06.2019, 11:14
  #58   
Цитата:
Сообщение от Раздвоение личности Посмотреть сообщение
@Виталий Д. Немо, ты что хочешь, чтобы я доказал какой-то из вариантов будущего ИИ? Предположение на то и предположение.
Предположение должно быть на чем-то основано, иначе это не предположение, а домысел.
Поэтому самостоятельная эволюция ИИ - это домысел. Он не стОит того времени, который мы уделили его обзору.
Старый 29.06.2019, 11:14
  #59   
@Виталий Д. Немо, я считаю ты недооцениваешь то, что может из себя представлять ИИ и его самостоятельное развитие.
Старый 29.06.2019, 11:15
  #60   
Цитата:
Сообщение от Виталий Д. Немо Посмотреть сообщение
Предположение должно быть на чем-то основано, иначе это не предположение, а домысел.
Как угодно. Это уже игра в слова. Бла-бла.
Ответ

« Предыдущая тема | Следующая тема »

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения
vB-коди Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.


Часовой пояс GMT +4, время: 23:29.

Обратная связь - Форум для общения - Архив

Powered by vBulletin® Version 3.8.9
Copyright ©2000 - 2025, Jelsoft Enterprises Ltd. Перевод: zCarot
Realax Forums 2007-2024