Нейросеть губит репутацию

Нейросетевые алгоритмы совершенствуются и развиваются ежедневно. Чем больший объем информации обрабатывается, тем больше накоплено «опыта», а значит, результат выше.

Когда речь идет о визуальном контенте, в частности, изображениях, то такой прогресс заметен даже дилетанту. Достаточно вспомнить картинки, которая создавала нейросеть год назад — люди с лишними пальцами, нефизиологические вставки и проч. То же, что в среднем выдает в текущий момент, в отдельных случаях путают с качественными изображениями, которые созданы реальными художниками.

Дизайны, которые получены на основе нейросетевых алгоритмов, также ощутимо улучшились. Да, это еще не полноценные и удовлетворяющие клиента решения, но ощутимая поддержка дизайнера и источник идей и вдохновения.

В области текстового контента ситуация не столь радужная. Нейросеть создает большие и понятные читателю тексты, складные и доступные. В большинстве случаев даже не возникает мысли, что это создала программа, а не человек. Специалист же, который разбирается в области, увидит проблему. Ведь писать «красиво» недостаточно, требуются еще и достоверность, и смысловая ценность текстов.

Истоки проблем нейротекстов

Если перед нейросетью ставится задача создать относительно «пустой» по содержанию текст, например, чтобы заполнить свободное пространство на странице интернет-ресурса, то проблем не возникает. Когда же требуется текст со смыслом или экспертное мнение, нейросеть проигрывает специалисту. Ведь текст создается на основе массы обработанной информации, а как оценить ее достоверность, выбрать и переработать факты — для алгоритма непонятная задача.

Проанализировав массу информации, выявили следующие причины проблем недостоверности нейротекстового контента:

• Недостоверность исходной информации.
  Нейросеть перерабатывает огромный массив информации, выделяет конкретные и подходящие под текущее задание темы. Степень соответствия «прочитанного» материала исходному запросу не проверяется. Также даже при высокой степени соответствия оценка достоверности содержания не производится. Таким образом, новый материал создается на сомнительном «основании».
• Слепая вера.
  Нейросеть регулярно считает достоверной информацию, которая написана в ключе явного и четкого экспертного мнения. Оценить уровень эксперта самостоятельно алгоритму не удается. Но, видя уверенные и однозначные утверждения, считает их правильными по умолчанию.
• Кажущаяся логичность.
  Из предыдущей ситуации в наличии и иное нейрозаблуждение: нейросеть изучает информацию с созданием логических цепочек и рассуждений, выявляет закономерности и в последствии использует в собственных материалах. Отличить цепочку с логикой от логического заблуждения не в состоянии. В итоге — ошибка.
• Фиксация на результате.
  Известен феномен, когда человек, проходящий определенные тесты, старается выдать «правильные» ответы. Или в рекламной информации намеренно выдают желаемое за действительное и доказанное. Нейросеть принимает эти выводы за аксиомы, что, по сути, ошибка. Подгадывая и сочиняя «правильный» ответ, человек программирует нейросеть на закрепление заведомо искаженной информации.
• Закрытие контента.
  Крупные компании и профессиональные маркетологи в последнее время проводят политику закрытия контента интернет-ресурсов для механизмов нейросетевого поиска. Это делают в целях сохранения конфиденциальности информации. В итоге — еще один путь понижения достоверности получаемых нейросведений.

Заметим, что алгоритм нейросетевой работы с источниками не позитивный или негативный. Он нейтральный. Прописано конкретное поведение при работе с конкретной информацией. Однако как бы ни был проработан алгоритм, не в стоянии охватить смысловую составляющую. Ведь информация берется в первую очередь из открытых источников, а они не в каждом случае достоверны.

Большинство этих вопросов со временем решится, когда объем изучаемой информации будет исчисляться миллионами и миллиардами переработанных текстов. Однако, так или иначе обучение требуется проводить с жестким контролем человека, а это уже не совсем «нейро».

Нейросеть и репутация

Изучив проблемы с исходной информацией, с которой работает нейросеть, порассуждаем, чем это негативно для бизнеса.

Главная проблема заключается в том, что, создавая брендовый текст или выдавая информацию о товаре или услуге компании, нейросеть изучает массу источников, в том числе недостоверных, форумов, отзывов и проч. Какой получится вывод — не прогнозируется. Ведь, например, «поверив» негативному отзывы или включив в анализ текст, в котором сочетаются упоминания бренда или продукта с негативными эпитетами (пусть и не относящимися к ним напрямую), нейросеть выдаст негативный итог. Конечно, это работает и в позитивную сторону. Но плюс менее значим, чем вариант минуса.

Кроме того, усложнение нейросетевых алгоритмов приводит к тому, что в качестве исходной информации рассматриваются не только тексты, но и фото, аудио и видео. Данные идут в комплексе. Предположим, что пишете текст про мобильный телефон конкретной модели. Нейросеть нашла картинку, в которой художник-авангардист изобразил вариацию на тему этого товара. Это как вариант расценивается в виде проблемы транспортировки или несоответствия заявленного внешнего вида реальному. Таким образом, полученная нейроинформация ударит по репутации бренда. Ведь дает вывод, а не указывает конкретные основания.

Даже в текстовой области нейроалгоритмы последнего поколения получили добро на использование всего массива информации, невзирая на авторизацию и проч. Оговорка в том, что подобная информация расценивается как анонимная, т. е. свободная и не ограниченная защитой личных данных. Это же мнения, которые расцениваются в отдельных случаях, как экспертность. Владельцы компаний даже предположить не смогут, что в итоге будет с их репутацией.

Не забываем также, что восторженные потребители пишут реже возмущенных, хоть и в единичных случаях.

Резюме

Современные нейросетевые алгоритмы несовершенны в значимом проценте случаев. Они способны создать внешне продуктивный вариант контента, однако его смысловая нагрузка под вопросом.

Спрогнозировать, какое мнение или даже конкретный отзыв будут расценены как экспертные и станут исходником для создания контента, не получается.

Единственный вариант для бизнеса — использовать нейросетевые алгоритмы и силами сотрудников обучать их. Если нарабатывается ошибка за счет выбора «правильного», то и в другую сторону работает — задавайте такие ответы нейросети. Только под контролем человека и живого оператора получится продуктивный результат.

Поэтому использование нейрмеханизмов пусть не для генерации полноценного контента, но идей, сбора информации — на текущий момент продуктивно. Однако без контроля, редакции и, следовательно, обучения ситуация для репутации бизнеса только ухудшится.

Интернет-агентство U-sl+Мирмекс объясняет, что без репутации в конкурентной борьбе не победить. Однако в условиях развития нейросетевых алгоритмов, на первый план выходит не только процесс ее органической наработки, но и формирования «открытой информации». Не пускайте ситуацию на самотек и тогда ущерб для бизнеса компенсируется.