OpenAI се готви да пусне нов „режим за възрастни“ за ChatGPT, функция, която ще позволи на потребителите да участват в по-явни текстови разговори. Компанията пояснява, че този режим ще се съсредоточи върху генерирането на неприятно или с тема за възрастни писмено съдържание, но няма да произвежда това, което обикновено се счита за порнографски материал. Това разграничение е ключово за подхода на OpenAI, който балансира потребителската свобода и безопасността на съдържанието.
Какво представлява режимът за възрастни на OpenAI?
Отложеният режим за възрастни на OpenAI за ChatGPT е проектиран да позволява пикантни и дръзки текстови разговори. Според докладите първоначалното стартиране няма да включва възможност за генериране на изображения, глас или видео.
Неназован говорител каза пред The Wall Street Journal, че съдържанието, активирано от тази функция, ще бъде класифицирано по-скоро като мръсотия, отколкото като порнография. Това позволява на потребителите да изследват теми за възрастни чрез текстово взаимодействие, без да преминават към изрични визуални или аудио медии.
Определяне на границата: мръсотия срещу порнография
И така, кога точно мръсотията се смята за порнография? Разликата често е в средата и изричността.
Порнографията обикновено се отнася до писмено съдържание с теми за възрастни, докато порнографията обикновено включва визуални или графични изображения. OpenAI изглежда очертава ясна линия за поддържане на ниво на безопасност и съответствие.
Тази внимателна категоризация помага на компанията да избегне по-строг регулаторен контрол. Освен това е в съответствие с ангажимента си за отговорно разработване на AI.
Първоначално съобщение и съображения за безопасност
Функцията беше обявена за първи път през октомври от изпълнителния директор на OpenAI Сам Алтман. Той посочи, че компанията е постигнала напредък в смекчаването на потенциалните рискове за психичното здраве, свързани с ИИ.
В резултат на това OpenAI се почувства комфортно да облекчи някои ограничения за безопасност. Това проправи пътя за въвеждането на „еротика за проверени възрастни“.
Защо засега само текст?
Ограничаването на режима за възрастни до генериране на текст при стартирането е стратегическо решение. Генерирането на изображения, глас и видео крие по-висок риск от злоупотреба.
Като започне с текст, OpenAI може да наблюдава използването и да събира данни. Този поетапен подход позволява корекции, преди да се разшири към по-чувствителни видове медии.
Потенциални въздействия и потребителски реакции
Въвеждането на режим за възрастни може значително да разшири потребителската база на ChatGPT. Много възрастни търсят взаимодействия с ИИ, които отразяват по-широк спектър от човешки преживявания.
Този ход обаче не е без противоречия. Критиците се тревожат за нормализирането на изрично съдържание, генерирано от AI.
Други се съмняват дали филтрите и предпазните средства ще бъдат достатъчно здрави. Гарантирането, че технологията не се злоупотребява, ще бъде непрекъснато предизвикателство.
Основни характеристики на предстоящия режим за възрастни
- Текстови разговори с теми за възрастни
- Няма генериране на изображение, аудио или видео при стартиране
- Проверка на възрастта за безопасност на потребителите
- Филтри за съдържание за предотвратяване на екстремни материали
Поглед напред: Бъдещето на изкуствения интелект и съдържанието за възрастни
Ходът на OpenAI може да създаде прецедент за други AI компании. Балансът между иновация и безопасност ще продължи да бъде гореща тема.
Бъдещите актуализации може да включват повече видове медии, ако режимът само за текст се окаже управляем. Засега фокусът остава върху създаването на безопасна, но разрешителна текстова среда.
Тъй като ИИ става все по-интегриран в ежедневието, функции като режима за възрастни подчертават както неговия потенциал, така и неговите клопки. Да бъдете информирани е от решаващо значение, тъй като тези технологии се развиват.
За повече информация относно инструментите и актуализациите за отговорен AI посетете Seemless.
