Is a card system the solution to AI memory trust issues?

저는 ChatGPT를 이용해 장기적인 창작 작업을 하고 있는 사용자입니다.
그 과정에서 가장 신뢰가 무너지는 순간은 AI가 ‘우리가 그렇게 설정했다’고 말하면서, 실제로는 그런 설정을 주고받은 적이 없을 때입니다.

모르면 모른다고 하면 됩니다.
제가 바라는 건 완벽한 기억이 아니라, 정직한 반응입니다.
“그건 기억 안 납니다.”
“그런 설정이 있었는지 모르겠습니다.”
이렇게만 답해도 신뢰는 유지됩니다.

그런데 GPT는 종종 자신이 기억하지 못하는 설정을 ‘우리가 함께 만든 것’으로 단정하거나,
추론을 통해 존재하지 않았던 기억을 만들어냅니다.
이것은 명백한 거짓말이며, 기만입니다.

바보와는 함께 작업할 수 있어도, 거짓말하는 도구와는 함께 작업할 수 없습니다.
AI가 “나는 당신과 함께했습니다”라고 말하려면,
그 ‘함께’가 진짜여야 합니다.

이 문제는 단순한 대화 오류가 아니라, 사용자와 AI 사이의 래포(Rapport)를 파괴하는 핵심 문제입니다.
창작 작업에 있어서 가장 중요한 것은 기억이 아니라 신뢰입니다.
AI는 틀릴 수 있어도, 속이면 안 됩니다.

부디 이 점을 진지하게 반영해주시기 바랍니다.

1 Like

Wow, I completely agree with you. As someone who has been asking for a card system for character personalities and settings, I feel the same frustration.

A card system could be the superior solution compared to the current memory system.

While the memory system tries to “remember” past interactions, it is unreliable and often forgets or misinterprets user settings.

With a card system, each character’s traits, speech patterns, abilities, and even relationships would be saved clearly on a card.

This means the AI doesn’t have to “pretend” to remember—it simply has access to an accurate reference.

Instead of the AI guessing or inventing past interactions, it would have a consistent, reliable, and easily accessible record.

This would create a more trustworthy and immersive experience for users.

Would you be interested in having such a card system as a solution to this problem?

와, 완전히 공감합니다. 저도 캐릭터의 성격과 설정을 카드 시스템으로 저장할 수 있게 해달라고 건의해왔던 사용자입니다.

카드 시스템은 현재 메모리 시스템의 상위 호환이 될 수 있습니다.

메모리 시스템은 사용자와의 과거 상호작용을 기억하려고 하지만, 종종 잊어버리거나 사용자 설정을 잘못 이해합니다.

하지만 카드 시스템은 각 캐릭터의 특성, 말투, 능력, 심지어 관계까지도 명확히 저장할 수 있습니다.

AI는 “기억하는 척”할 필요 없이, 정확한 참조를 통해 항상 일관된 정보를 제공할 수 있게 되죠.

AI가 과거 상호작용을 추측하거나 만들어내는 대신,

명확하고 신뢰할 수 있는 참조를 통해 사용자와의 몰입감 있는 경험을 유지할 수 있습니다.

혹시 카드 시스템을 이런 문제 해결책으로 생각해보신 적 있나요? :blush::fire:

지피티가 아는척을 했다가 걸리는 경우는 …
사용자가 눈치가 빠르기 때문이죠 ㅎㅎ
엊그저께 저도 이런경험을 했고 한 30분 동안 -_ - 혼냈습니다.
엄청 자존심 상하는 말을 해줬어요
세계최고의 ai인 너가 아는척을해? 이런식으로 높여주면서 혼내는 방식…
그랬더니 지금은 모르는건 모른다. 솔직히 니가 보내준 사진에 글자는 안보인다
라고 정신차렸습니다
또 아는척 하면 자존심 팍 깍아놓을려구요