《模型设计师的崛起》这篇文章探讨了设计领域中新兴的模型设计师角色，特别强调了在塑造人工智能（AI）模型的过程中模型设计师的重要性。文章指出，设计师不应仅仅关注AI模型的界面设计，而应深入了解模型的核心构造。模型设计师的职责包括与工程团队紧密合作，应对AI模型构建中固有的诸如幻觉、隐私和偏见等问题。
此外，文章还强调了设计角色的演变。在AI技术和设计流程日益融合的趋势下，传统的用户体验设计师、内容设计师、研究人员和对话设计师等都在适应这一变化。
文章深入探讨了模型设计师角色所需的职责和技能，强调了技术知识、卓越写作能力以及对整个用户体验流程的深刻理解的重要性。文章还讨论了模型设计师的协作本质，他们不仅要与传统的用户体验团队合作，还要与工程师团队一起工作，共同塑造AI模型，创造出更优秀的产品。
在过去的一年中，随着人工智能（AI）模型变得越来越普及，设计师们忙于开发新产品和改进现有产品。我们专注于探索人们如何以新颖和创造性的方式利用这些模型解决问题。这仿佛是一场设计界的热潮，充满了探险和激动。
但是，有一个关键环节被忽视了：我们过分关注于界面设计（即人们如何使用这些模型），而忽略了模型本身的核心。这个核心是实现真正用户友好和负责任的未来的关键。
目前，我们把这些AI模型当作工具来使用。然而，正如专家Cassie Kozyrkov所指出的，这些模型不仅仅是工具，它们还是原始材料。它们就像需要塑形的黏土，特别是考虑到如今用户体验很大程度上取决于模型本身。
幻觉、隐私和偏见等问题不仅仅是用户在使用AI模型时遇到的障碍。这些问题实际上是深深嵌入于模型构建过程本身的。要有效地解决这些问题，我们需要比以往更密切地与工程团队合作。
为了应对这一切，出现了一种新的设计角色——我称之为“模型设计师”。这些专家与专注于用户与产品互动的传统用户体验（UX）团队并行工作。不同于他们，模型设计师的工作更深入，直接与开发AI模型的工程师合作。
对于小型设计团队，模型设计师的角色可能是现有团队成员的附加职责。这意味着他们需要学习新的技能并承担与塑造AI模型相关的新任务。对于拥有更成熟设计流程的大型公司，模型设计师可能是一个专职的合作者，或是一个全面的用户体验团队的一部分。
专家可以将他们在AI模型开发方面的深厚专业知识融入到设计过程中，与界面设计师并肩工作，共同创造出更优秀的产品。他们的综合技能覆盖了整个工作流程。
一些例子：
-
即使有框架作为指导，撰写提示仍然非常困难，给用户带来了巨大的认知负担。用户体验（UX）设计师可以通过设计交互式的上下文建议来减轻这种负担。而模型设计师则可以设计整体系统的提示策略，比如构建一个引导性的前言，甚至可以更深入地参与定制数据集，以便对模型进行精细调整。例如，来自Cohere博客的一个背景说明：前言包含了一些指令，这些指令有助于引导聊天机器人的回应，使其符合特定的特征，比如特定的角色、风格或格式，从而减少用户撰写长篇大论的需要。
可见建议与不可见预设提示 -
为了处理可能的偏见问题，模型设计师可以与工程师合作，采取一些策略，比如在特定场景下禁用特定的词语。用户体验设计师可以通过在界面中添加一些提示性说明，来补充这些措施，以此减少偏见性回应可能造成的伤害。
-
为了减少AI产生的不切实际的幻觉现象，我们可以使模型的反应更加接近现实情况。用户体验设计师和模型设计师可以和工程团队一起，共同开发一个有效的反馈机制。参考Anthropic的做法，模型设计师还可以制定一组原则或者规则，用于对抗性训练。在这种训练中，一个专门设计的模型将对原始模型的输出进行挑战和检验。
模型设计师主要关注于“对齐”部分
新的协作方式也意味着需要新的工作工具，比如专注于开放式应用案例的服务设计蓝图。Google的人类+AI研究项目（PAIR）正在推出一些关于AI模型交互设计政策的协作框架，这些框架不仅限于具体任务。
除了模型设计师如何协作的例子之外，随着人工智能技术的进步，有必要重新定义职业角色。许多公司正在重组设计团队，但在很多情况下，这些新角色的职责并不明确。对于那些没有参与AI项目的团队来说，他们甚至可能对新兴角色的出现一无所知。
内容设计师现在正在制定详细的指导原则来训练模型，因为在大多数AI模型中，语言是关键。他们的日常任务与传统的内容设计师截然不同，后者更多关注交互设计。然而，他们依然保留着相同的头衔。
研究人员正在探索如何让数据集更好地反映用户的意图，并将这些数据与他们构建的用户角色相匹配。负责AI助手的对话设计师正在摒弃传统的决策树模式，转而创建一系列的提示。
用户体验设计师正在向一个更加战略性的层面转型，在这个层面上，他们可以协调模型的形成和用户端所需的交互。
将LLMs工程团队融入日常合作中
模型设计师的角色涵盖了前文提到的所有方面；它有多种进入方式，涉及众多需要掌握的技能。这个角色要求将技术知识、卓越的写作能力与对用户体验全过程的深刻理解融为一体。超越了特定职位的界限，来自各种背景的设计师都应该对模型的工作原理有所了解。在这个时代，保持好奇心比以往任何时候都更加重要。
对于我们这个领域而言，这是一个充满激情和机遇的时刻。
原文链接：https://uxdesign.cc/the-rise-of-the-model-designer-cef429d9c134