Искусственный интеллект (ИИ) гигант OpenAI запустил то, что он назвал Model Spec. Это решение разработано для углубления общественного разговора о том, как должны вести себя модели ИИ. Как и всегда, OpenAI также инновирует, стремясь сделать технологию, которую она пионерит, лучше и безопаснее для всех.
OpenAI Model Spec, Основная Суть
Как подчеркнула компания, ее цель – дать людям больше контроля над ИИ с согласия общества на то, что считается этичным. Она сказала, что Model Spec является продолжением продолжающихся исследований, которые она продолжает спонсировать относительно того, как формируются модели ИИ.
Раскрытый документ подробно описывает, как модели компании должны вести себя во время использования OpenAI API и ChatGPT. OpenAI уточняет, что поведение модели в этих приложениях ИИ зависит от того, как они реагируют на вход от людей. Эти ответы варьируются от тона, личности и длины ответа.
За последние несколько месяцев пользователи жаловались на галлюцинации в приложениях ИИ, включая ChatGPT. Эти галлюцинации проявляются так, что приложение дает неправильный ответ на то, что требуется. Иногда модели ИИ действуют лениво или открыто отказываются от запросов пользователей.
В течение многих лет были предложены серии корректирующих подходов, включая усилия китайских исследователей по борьбе с галлюцинациями ИИ. Однако благодаря инновации OpenAI Model Spec компания оптимистично считает, что люди могут присоединиться к усилиям, чтобы сделать ИИ лучше.
Среди ключевых направлений, на которых OpenAI отметила, что будет использовать Model Spec, поддержка обучения с подкреплением для тренеров ИИ. Пока неясно, будет ли Модель открыта для использования другими конкурентами в области ИИ. Определяя подвох, Сэм Альтман отметил, что Model Spec будет совершенствоваться со временем, поскольку он не начнет работу как идеальное решение.
Безопасность и регулирование ИИ
С ростом технологий возрастает страх за их потенциально вредное воздействие на людей. Это требует все более настойчивых усилий по обеспечению безопасности ИИ. Несмотря на то, что OpenAI является частной компанией, она находится на передовой революции в области ИИ. В результате она занимает центральное место в призыве к безопасности во всех отношениях.
Другие компании в экосистеме ИИ, включая Microsoft и NVIDIA, также осторожны по поводу влияния своих изобретений на общественность. Большинство этих технологических лидеров входят в Совет по безопасности ИИ правительства. Исходя из этого, эксперты считают, что будет предпринято более скоординированных усилий для обеспечения безопасности технологии для всех.
Читать далее: Прогноз цены на рендеринг: что ждет RNDR после недельного роста на 50%
