Мифы про нейросети

Чем более хайповая какая-нибудь тема, тем больше в ней мифов.

Один из мифов про нейросети — что они “умеют думать”, а также “умеют выполнять код”.

Миф настолько устойчивый, что вот даже человек профессионально зарабатывающий на внедрении нейросетей, верит в него и транслирует это другим: пример.

Нейронка выполняет код

Еще одна интересная возможность использовать нейросети как среду выполнения кода на python. Это не только способ быстро проверить код на работоспособность, но и включение режима БОГ

Подумайте что только можно делать!

Нейросеть не может выполнять код

Конечно же, это неправда. Код не может исполняться в нейросети.

Нейросеть лишь воображает правдоподобный результат. Сто раз проверено.

Легко опровергнуть что код якобы исполняется. Для этого достаточно дать сложные вычисления и сравнить результат нейросети с результатом реального выполнения кода, тогда нейросеть не сможет угадать результат без запуска реального интерпретатора.

Принцип действия нейросети — рандом, а не логика

Если изучить принцип работы нейронной сети то станет понятно что она не работает по логике как компьютерная программа, а выдаëт рандом приближенный к желаемому результату.

Поэтому выполнять код строго как процессор, операционная система и интерпретатор она принципиально не способна, будет только пытаться угадывать результат.

Если и сможет выполнить сложный код то только через подключенный внешний интерпретатор работающий на классической двоичной программе, но ни в коем случае не внутри нейросети.

Что дальше?

Дальше, вследствие того что миф очень распространён и даже те кто непосредственно делает инструменты на возможностях нейросетей тоже в него верят, то будем ждать резонансных факапов.

Хайп не остановить, нейросети будут бурно внедряться где попало вместе с непониманием принципов работы.

Появятся новости про крупные инциденты из-за того что переоценили логичность поведения нейросетей.

Например, компании могут потерять деньги, разориться или получить судебные иски, или штрафы от регуляторов. Грузы — теряться и портиться; транспортные средства — сбиваться с курса и попадать в аварии; важные технологические объекты — ломаться или даже уничтожаться. Могут быть последствия и посерьёзнее.

Эх, хотелось бы ошибиться.