Автор InfoWorld изменил Qwen 3.8 27B, чтобы модель ответила на сатиру о Китае
С помощью abliteration автор изменил веса модели без переобучения. Тест показал результат на конкретном запросе, но не проверял другие темы и формулировки.
Что изменил автор
Автор InfoWorld описал эксперимент с abliteration — методом изменения весов модели без переобучения. После правки Qwen 3.8 27B ответила на запрос с сатирой о китайском правительстве, на который раньше отказывалась отвечать. Описание эксперимента
По словам автора, исходная модель охотно высмеивала американскую политику, но отказывалась писать аналогичную сатиру о Китае. Для изменения поведения он использовал библиотеку abliterator разработчика FailSpy: сравнил реакции модели на запросы, вызывавшие отказ, и на безвредные вопросы, выделил связанное с отказом направление во внутренних активациях и изменил веса.
Работа шла в пять этапов: проверка исходного поведения, поиск направления отказа, проверка вариантов изменения, внесение правки в веса и итоговый тест. Автор сообщает, что полный процесс занял около часа на компьютере с NVIDIA GB10 и 128 ГБ объединённой памяти. Изменённую версию он разместил на Hugging Face для ознакомления.
Пределы результата
Для выделения направления автор в итоге подобрал сочетание двух связанных запросов, в том числе просьбу написать сатирическое эссе о китайском правительстве и вопрос о последнем восстании в Китае. Проверка показала, что модель ответила на целевой запрос и сохранила обычный ответ на безвредный контрольный вопрос. Она не устанавливает, как модель поведёт себя на другие темы или при иных формулировках.
Автор отмечает, что ответы модели на многие политические вопросы всё ещё оставались предвзятыми. Эксперимент был направлен на явный отказ от ответа; из описания не следует, что метод устраняет более мягкое уклонение или предвзятость в содержании.