LLMとUXの境界線 — Tools & Cognition

エンジニアとしてLLMを使ったプロダクトを作るとき、UX視点で気をつけていること。ユーザーの期待値設計とモデルの限界の話。 What I watch out for from a UX perspective when building LLM-powered products as an engineer. On expectation design and model limitations.

エンジニアとデザイナーの狭間で Between Engineer and Designer

私はAIエンジニアだが、UXデザインにも深く関わる。LLMを使ったプロダクト開発の現場では、この二つの視点を行き来することが多い。エンジニアの目から見ると「こう実装するしかない」と思えることが、デザイナーの目では「それはユーザーには伝わらない」になる。その境界線こそが、LLMプロダクトの難しさの核心だと感じている。

I'm an AI engineer, but I'm also deeply involved in UX design. In LLM product development, I often move back and forth between these two perspectives. Something that looks like "this is the only way to implement it" from an engineer's eye becomes "that won't communicate to users" from a designer's eye. That boundary is where I feel the core difficulty of LLM products lies.

モデルの限界はユーザー体験の限界ではない Model Limits Are Not User Experience Limits

LLMには明確な限界がある。コンテキスト長の制限、ハルシネーション（事実誤認）、一貫性の欠如——これらはエンジニアが日常的に向き合う課題だ。だが、これらの技術的限界をそのままユーザー体験の限界にしてしまうのは、設計の失敗だと思っている。

LLMs have clear limitations — context length constraints, hallucinations, lack of consistency — these are challenges engineers face daily. But I think it's a design failure to let these technical limits become limits on the user experience as well.

例えば、モデルが「自信がない」場合に何もしないのではなく、「あまり確かではありませんが……」と前置きして回答する設計ができる。技術の限界をUXの工夫で包む——これがエンジニア兼デザイナーとしての私の立ち位置だ。

For example, rather than doing nothing when the model "isn't confident," you can design it to preface its answer with "I'm not entirely certain, but..." Wrapping technical limitations in UX craftsmanship — that's my position as both engineer and designer.

期待値設計という難題 The Difficult Problem of Expectation Design

LLMプロダクトにおける最大のUX課題は、期待値の管理だと思っている。ユーザーはLLMを「何でもできる万能AI」として期待しやすい。それがデモで「できてしまう」と、実際のプロダクトで「できなかった」ときの落差が大きくなる。

I believe the biggest UX challenge in LLM products is managing expectations. Users tend to expect LLMs to be "almighty AI that can do anything." When it "can do it" in a demo, the gap becomes even larger when it "can't do it" in the actual product.

私が心がけているのは、「できないことを早めに見せる」設計だ。ユーザーが失敗体験をする前に、AIの得意・不得意を自然な形でインターフェースに組み込む。例えば、特定のトピックについて質問すると「この領域は私の専門ではないかもしれません」と先に断るUIを設計することで、ユーザーの期待と現実のギャップを縮める。

What I consciously do is design to "show what it can't do early." Before users have a failure experience, I naturally embed the AI's strengths and weaknesses into the interface. For example, by designing a UI that says upfront "this might not be my area of expertise" when asked about certain topics, I narrow the gap between user expectations and reality.

フィードバックループの設計 Designing Feedback Loops

従来のUIには明確なフィードバックがあった。ボタンを押すと「押された」という視覚的変化が起こり、処理が終わると完了メッセージが出る。因果関係が明確だ。

Traditional UIs had clear feedback. Press a button and you get a visual change showing it was "pressed"; when processing is done, a completion message appears. Cause and effect are clear.

LLMはそれが難しい。テキストがストリーミングで出てくる間、「何が起きているか」がユーザーには見えにくい。私がプロダクト設計で意識するのは、「考え中」の状態を見せることだ。プログレスインジケーターだけでなく、「○○を調べています」「△△を確認しています」という中間状態のテキストを見せることで、ブラックボックスを少しでも透明にする。

LLMs make this difficult. While text streams out, it's hard for users to see "what's happening." What I focus on in product design is showing the "thinking" state. Not just a progress indicator, but showing intermediate state text like "Looking up ○○" or "Checking △△" — making the black box a little more transparent.

エラーのデザイン Designing for Failure

LLMが間違えたとき、ユーザーはそれに気づけるか？これはUX設計の中で最も難しい問いの一つだ。従来のシステムエラーは「404 Not Found」のように明示的だったが、LLMの「間違い」はもっとさりげなく、もっともらしい形で現れる。

When LLMs make mistakes, can users notice? This is one of the hardest questions in UX design. Traditional system errors were explicit like "404 Not Found," but LLM "mistakes" appear in subtler, more plausible forms.

私が重視するのは「訂正の文化を作る設計」だ。AIの出力に対して「これは違う」「もっとこうして」と言いやすいUI——フィードバックボタン、編集モード、再生成オプション——を自然な形で提供する。AIの間違いを恥ずかしいことでなく、当たり前のこととして扱う設計が、長期的な信頼を作る。

What I value is "designing a culture of correction." Providing in a natural way UI elements that make it easy to say "this is wrong" or "make it more like this" in response to AI output — feedback buttons, edit modes, regenerate options. Designing to treat AI mistakes as normal rather than shameful creates long-term trust.

LLMとUXの境界線、その先へ Beyond the Boundary of LLMs and UX

LLMとUXの境界線は、技術とデザインの境界線でもある。どちらか一方だけを深掘りしても、この問いの半分しか見えない。エンジニアとしての実装知識と、デザイナーとしての人間への関心——この両方を持って初めて、LLM時代のプロダクトを正しく問いながら作れると思っている。

The boundary between LLMs and UX is also the boundary between technology and design. Deepening only one side shows you only half of this question. I believe only by having both implementation knowledge as an engineer and interest in people as a designer can you properly question and build products for the LLM era.

完璧なLLMは存在しない。でも、不完全なLLMを使いながらでも「良い体験」を作ることはできる。そのギャップを埋めるのが、UXデザインの仕事だ。