Я считаю, что, если более менее думающий человек, который хотя бы поверхностно знаком с ИИ и компьютерами, никогда не задумывался над вопросами: какими правами и обязанностями мы должны ИИ наделить, в какой момент его развития это сделать и в частности, что эти права должны быть в какой-то момент не меньшими, чем права любого человека, то не верно считать этого человека добропорядочным.
непонятно - при чем добропорядочность? ИИ невозможно передать понятие этики, кроме случая программирования понятия этики по конкретному лицу или группе лиц.
О случайностях.
Человек - существо на земле случайное и не вписывается никуда никоим образом. То, чем занимается человечество на протяжении всей своей истории даже занятием и не назовешь.
С термином "обнаружение" твоя фраза, сказанная выше, будет бессмысленной. Т.к., как и вычислительную мощность компьютера, так и интеллект и ум человека можно обнаружить. При этом так же, как и воздух в комнате, вычислительную мощность компьютера не видно, если просто вскрыть корпус компьютера, а интеллект человека, если вскрыть черепную коробку.
А как определиться с человеческим мышлением? Ум, интеллект - всего лишь инструменты.