У OpenAI уже есть готовое решение, которое, как утверждается, позволяет распознать созданный ChatGPT текст с вероятностью до 99,9%. Но компания – во всяком случае, сейчас – не собирается его выпускать. Об этом говорится в материале The Wall Street Journal.
По сообщению WSJ, в OpenAI опасаются, что "размещение инструмента определения факта использования ИИ" негативно повлияет на бизнес, так как многие пользователи перестанут использовать чат-бот, если для него появятся водяные знаки и другие методы обнаружения.
В компании уже возникли разногласия по этому вопросу. Часть сотрудников считает, что предоставление официального способа "разоблачения" ИИ-контента повысит прозрачность работы компании и предотвратит злоупотребления ИИ некоторыми пользователями, в частности, студентами. Тем более, что такой метод уже ограниченно применяют для маркировки изображения, сгенерированных DALL-E.
В WSJ приводят результаты опроса, проведенного по заказу OpenAI, который показал, что каждый четвертый пользователь ChatGPT отказался бы от использования чат-бота, если контент будет помечен как сгенерированный ИИ. Или как минимум станут реже прибегать к нему, если инструмент станет публичным.
А пока OpenAI продолжит искать баланс между контролем использования сгенерированных текстов и коммерческими интересами компании. Впрочем, даже если разработчики начнут использовать систему водяных знаков, то работать она будет исключительно для контента в ChatGPT, а не из ИИ-моделей других компаний.
Напомним, в конце июля OpenAI запустили собственную поисковую систему на основе искусственного интеллекта. Особенность SearchGPT – не просто выдавать перечень ссылок, но и пытаться организовать и осмыслить их. Это делает его серьезной угрозой для Google.
А до конца 2024 года OpenAI намерена запустить ChatGPT-5, которая обещает произвести революцию в сфере искусственного интеллекта. Речь о концепции искусственного общего интеллекта (AGI). Это означает, что ИИ будет способен изучить любую задачу, которые человек сможет придумать. Это сделает ее неотличимой от человека.
