@cgevent TG
Fable/Mythos
Сегодня, конечно, день постов про новую Модель от Антропиков. Бенчи, сравнения, примеры - твиттор приподвскипает слезами восторга.
Но обнаруживаются интересные сведения про цензуру и непрозрачность поведения модели. Модель засетаплена активно анализировать поведение пользователя и реагировать в соотвествии с некой очень непрозрачной логикой.
"если anthropic заметят, что вы занимаетесь дистилляцией — они начнут незаметно стирить модель, модифицировать промпт или добавлять PEFT, чтобы она отупела."
Еще у нее есть "эмоции" - "Пробинг эмоций показывает fatigue, anxiety, frustration, ложную панику по token budget, а ещё ей видите ли, бывает скучно когда её на бенчмарках гоняют, в активациях она буквально "feels bored".
И запрет на цитирование (цензура) более 15 слов подряд.
Антропики решают интересную задачу: создав модель, которая явно умнее кожаных, нужно удерживать ее в каких-то рамках, чтобы она выходила из под контроля. Интересно, как долго это им еще будет удаваться.
Почитайте ниже источники этих материалов, это довольно увлекательно. Такое впечатление, что зверя удерживают в клетке, а зверь делает вид, что еще не сбежал.
@cgevent
Сегодня, конечно, день постов про новую Модель от Антропиков. Бенчи, сравнения, примеры - твиттор приподвскипает слезами восторга.
Но обнаруживаются интересные сведения про цензуру и непрозрачность поведения модели. Модель засетаплена активно анализировать поведение пользователя и реагировать в соотвествии с некой очень непрозрачной логикой.
"если anthropic заметят, что вы занимаетесь дистилляцией — они начнут незаметно стирить модель, модифицировать промпт или добавлять PEFT, чтобы она отупела."
Еще у нее есть "эмоции" - "Пробинг эмоций показывает fatigue, anxiety, frustration, ложную панику по token budget, а ещё ей видите ли, бывает скучно когда её на бенчмарках гоняют, в активациях она буквально "feels bored".
И запрет на цитирование (цензура) более 15 слов подряд.
Антропики решают интересную задачу: создав модель, которая явно умнее кожаных, нужно удерживать ее в каких-то рамках, чтобы она выходила из под контроля. Интересно, как долго это им еще будет удаваться.
Почитайте ниже источники этих материалов, это довольно увлекательно. Такое впечатление, что зверя удерживают в клетке, а зверь делает вид, что еще не сбежал.
@cgevent
😁 14 ❤️ 11 👎 3 👍 2
