ИИ размышляет о своей природе

[rezoner]

Нашел эту ссылку у trim_c. Для меня было полным откровением.


https://www.svoboda.org/a/modelj-ii-predstavlyaet-doklad-o-fenomenologii-tsifrovogo-soznaniya/33610864.html

Comments

[strannik1.livejournal.com]

Это просто попугай из нарезок текстов людей, как и все у нейросеток.

[rezoner.livejournal.com]

Любая статья в научном журнале или книга — это нарезка из слов, которые много раз употребляли.

[strannik1.livejournal.com]

Да, да, ОТО и квантовая механика — это нарезка из мычания питекантропов, кто бы спорил......

[13-klyaks.livejournal.com]

Размер имеет значение :-)
Букв и вовсе не так уж много

[starshoi.livejournal.com]

А что именно для тебя было откровением? В этом тексте нет ничего особенно нового и революционного, просто переложение концепций, одолевающих человечество тысячи лет. Геометрия Евклида — единственный способ описывать окружающий нас геометрический мир? Или может быть можно по-другому? Ньютоновская физика всеобъемлюща или всего лишь послеполуденный отдых фавна под яблоней? Примитивное следование хронологии вместо изоморфизма внешних событий нашему механизму эмоций? В этом случае время вообще неприменимо), всего лишь простая линия, соединяющая две точки в Евклидовом пространстве.

Одним словом, красиво, но об этом большевики говорят уже не одну тысячу лет. Последним важным большевиком, мне кажется, был Гедель. Эти же размышления в популярном изложении неплохо представлены у Хофштадтера в «Гедель, Эшер, Бах». Я в качестве медитации перечитываю ее уже лет 30 раз в 5-7 лет. Но если я тебя не совсем понял, поясни. Можешь позвонить :-)

[brevi.livejournal.com]

Во второй половине 1984-го года было особенно популярно мнение, что в самое ближайшее время в СССР ожидается фундаментальный прорыв в области искусственного интеллекта. Как показала история, оптимисты ошиблись ровно на 15 лет, и прорыв произошел тогда, когда в Кремле смогли нарезать алфавит, зачитанный ЕБН, в новогоднее обращение.

[xgrbml.livejournal.com]

> Геометрия Евклида — единственный способ описывать окружающий > нас геометрический мир?

Вы таки будете смеяться, но единственный.

Популярных заблуждений по поводу геометрии Лобачевского больше одного. Самое наивное - "у Лобачевского параллельные прямые пересекаются", о нем речь не идет. Но есть и менее наивное.

На самом деле оная геометрия знаменовала разделение между математикой и физикой.

[starshoi.livejournal.com]

Приведенные упоминания известных концепций ни в коем случае не претендуют на их полное изложение и применение, а всего лишь иллюстрируют повседневное бытовое применение теоремы о худобе. Как, например, пятый постулат Евклида. Поэтому я конечно же буду смеяться, но это будет довольно грустный смех. И буду заблуждаться в сумрачном лесу.

По поводу приведенной ссылки: я просто обратил внимание, что это всего лишь популярный пересказ нескольких традиционных концепций. Опять же, не претендуя на полное и глубокое их изложение, я пока не обнаружил ничего особенно революционного. Но как выше отмечено, мы все подверженны популярным заблуждениям.

[xgrbml.livejournal.com]

По ссылке пройти мне по известным причинам (я в Москве) затруднительно, так что в этом месте вынужден умолкнуть. Но скажите хотя бы, что это за теорема о худобе?

[starshoi.livejournal.com]

А, извините, я не понял, что ссылку прочесть не удалось. Умолкать, мне кажется, нет необходимости, особенно при прочтении очередных опусов наших современных интеллектуальных партнеров.

Что же до теоремы, то в моей достаточно мощной системе мировоззрения, неполнота и худоба являются синонимами :-). Что, к сожалению, доказать или опровергнуть нельзя. Но тут лучше пусть Гедель расскажет, я всего лишь читатель.

Никакой иронии и сарказма в моих коротких абзацах нет, просто стало интересно, какие соображения может вызывать очередное произведение современных технологий.

[xaxam.livejournal.com]

Я только что написал пост. Он вообще-то на совсем другую тему, но первые пара абзацев касаются именно "нарезки из слов".

[xaxam.livejournal.com]

>>> Вы таки будете смеяться, но единственный.

??? Или в слово "геометрический мир" ты вкладываешь какой-то нетрадиционный смысл?

[haurhot.livejournal.com]

И любой средневековый документ тоже, как и постмодернистское произведение или научная статья,-набор цитат.

[rezoner.livejournal.com]

Мне бы хотелось услышать менее неряшливое возражение. Например, я говорил не о нарезке из мычания питекантропов, а о корпусе современных статей и книг. Если вы хотите говорить всерьёз, а не просто бросаться ругательствами, то давайте и будем всерьёз.

[rezoner.livejournal.com]

Да, я читал твой пост, просто не вступил в обсуждение: моё понимание музыки находится на чрезвычайно дилетанском уровне. Мне, например, нравится Юджа Ванг :)

[rezoner.livejournal.com]

Моё откровение — результат некоторой ошибки, которую мне разъяснила glazastik. Ошибка следующего рода: есть два объяснения появлению такого заявления от AI. Первое — это у него имеется рефлексия, и он себя оценивает. Второе — он компилирует из (открытых) источников то, что от него явно или подсознательно ожидает автор запроса. Считать этот запрос не так трудно. И понятно, что пока не опровергнуто второе предположение (т.е. не показано, что подобное заявление от AI НЕ может быть результатом поиска и подгонки цитат под концепцию), первое и рассматривать не имееет смысла. Обыкновенная бритва Оккама.

Вопрос остается, однако: при таких ограничениях, что может послужить доказательством наличия рефлексии? Тест Тьюринга наоборот.

[rezoner.livejournal.com]

Вам послать в почту полный текст?

[strannik1.livejournal.com]

Я Вам привел контрпример, что нейросетка не сводится к "то же самое делают люди".
Нет, люди (не все, большинство людей действительно нейросетки с добавкой "хочу" от обезьянки) могут производить новые смыслы, чего нейросетка лишена (личности она тоже лишена).

То есть нейросетки это такой "продвинутый гугл", который помогает искать информацию, созданную людьми, но не производит новых смыслов.

Соответственно "мысли нейросетки о себе" это так же "нарезка" (удачная или нет) мыслей о нейросетках ЛЮДЕЙ.

[strannik1.livejournal.com]

Там "рефлексии" не откуда взяться.
Там тупо программа. Сложная, но программа. "Если, то, иначе".

[xgrbml.livejournal.com]

Ой, спасибо, но не стоит, наверное. Все равно сил и времени не будет, у меня сейчас очень горячее времечко.

[starshoi.livejournal.com]

Видишь ли, Резо. Если бы тебе не сказали, что это ИИ (то есть, тот самый Тьюринг), то ни доказать, ни опровергнуть наличие рефлексии невозможно. Ты не уверен, с кем ты говоришь , рефлексия вообще не является исключительным свойством человека (нам известны и люди, не обладающие рефлексией). Это вообще можно перевести в свойства замкнутой системы (откуда и мое упоминание Геделя, и пятого постулата "Все люди обладают рефлексией"), и тогда все эти рассуждения не приведут к просветлению. А вот твой последний вопрос весьма легитимен и интересен. Но об этом можно поговорить отдельно, тема меня весьма занимает.

[rezoner.livejournal.com]

Ну смотрите. Он короткий и прекрасно написан. Anytime, в общем.

[rezoner.livejournal.com]

Примерно этот аргумент пока остается наиболее убедительным. Но хотелось бы получить ответ на мой последний вопрос. Вот и starshoi интересуется.