Language Models Learn to Mislead Humans via RLHF
Jiaxin Wen, Ruiqi Zhong, Akbir Khan, Ethan Perez, Jacob Steinhardt, Minlie Huang, Samuel R. Bowman, He He e mais 1
De quem é
Anthropicafiliação declarada pelos autores, segundo o OpenAlex
Outros papers das mesmas organizações
- Reasoning Models Don't Always Say What They ThinkAnthropic · 726 citações
- Collective Constitutional AI: Aligning a Language Model with Public InputAnthropic · 257 citações
- SAEBench: A Comprehensive Benchmark for Sparse Autoencoders in Language Model InterpretabilityAnthropic · 194 citações
- Language models transmit behavioural traits through hidden signals in dataAnthropic · 193 citações
- Phantom: General Backdoor Attacks on Retrieval Augmented Language GenerationAnthropic · 156 citações
- The Assistant Axis: Situating and Stabilizing the Default Persona of Language ModelsAnthropic · 149 citações