#RefusalBench

共 2 篇相关文章

从一个让人抓狂的体验说起你有没有遇到过这种情况：你问 AI 一个完全正常的问题，比如「帮我写一个小说里的反派角色独白」，结果 AI 回复你：「作为一个AI语言模型，我不能生成可能被视为有害或冒犯性的内容……」或者你问「感冒了应该吃...

当一个 AI 模型拒绝回答你的正常问题时，你会是什么感受？可能你只是想问一个关于化学反应的问题，模型却说”我不能提供可能被用于制造危险物质的信息”。或者你想写一个虚构的犯罪小说场景，模型告诉你”我无法协助创作涉及暴力的内容”。这种现象叫...