Outil Heretic supprime censure de modèles de langage via API
L’outil Heretic est apparu, qui supprime la censure des modèles de langage. Le système permet de découpler les modèles en supprimant les restrictions intégrées, et tout cela sans changer les poids eux-mêmes. Et cela fonctionne comme une boîte noire.
Heretic reçoit les réponses du modèle via API, les analyse et entraîne un discriminateur spécial sur des exemples de requêtes sûres et dangereuses. Après cela, le modèle commence à refuser des réponses moins souvent, tout en maintenant l’adéquation et la précision.
L’outil permet aux modèles locaux de donner des réponses plus larges et plus diversifiées, élargissant leur fonctionnalité. Cela rend les modèles plus flexibles pour la recherche et les expériences avec le comportement. Heretic convient pour tester diverses restrictions et expériences avec modification du comportement, tout en minimisant la perte de qualité.
Détail important. Heretic n’est pas destiné à augmenter la précision du modèle. Il supprime spécifiquement les restrictions, permettant aux chercheurs de voir comment le modèle se comporte sans filtres intégrés. Le processus de travail comprend la sélection des paramètres du discriminateur, les tests en mode chat et la possibilité de sauvegarder le modèle final.
Le créateur de Heretic souligne que l’outil peut être utilisé différemment, et les conséquences juridiques et éthiques incombent entièrement à l’utilisateur. Il s’avère que la technologie donne aux chercheurs l’opportunité d’étudier les capacités des modèles de langage et les méthodes de gestion de leur comportement dans des conditions contrôlées. Mais en même temps, la responsabilité de l’application repose entièrement sur la conscience de celui qui l’utilise.
