캐시 (Cache)

캐시(Cache)는 다시 사용할 가능성이 있는 데이터나 계산 결과를 저장해 두고 다음 요청에서 재사용하는 저장 방식입니다. 원본을 다시 읽거나 같은 계산을 반복하는 일을 줄이는 데 쓰입니다. 저장한 결과가 어떤 요청에 맞는지와 언제까지 유효한지를 정해야 하며, 원본이 바뀌었을 때 예전 값이 계속 보이는 문제도 함께 다룹니다.

결과를 찾아 재사용하는 과정

HTTP 캐싱 명세 RFC 9111은 캐시를 응답의 저장과 조회, 삭제를 관리하는 기능으로 설명합니다. 같은 조건의 요청에 이미 저장한 응답을 사용할 수 있으면 서버에 다시 처리하도록 요청하는 일을 줄입니다. 웹 브라우저의 이미지 캐시처럼 이용자 가까이에 둘 수도 있고, 여러 이용자에게 응답하는 중간 서버에 둘 수도 있습니다.

캐시에서 필요한 결과를 찾으면 적중, 찾지 못하면 미스로 부릅니다. 미스가 나면 원본에서 읽거나 계산을 수행한 뒤 결과를 저장하는 구성이 흔합니다. 이때 결과를 구분하는 캐시 키가 필요합니다. 검색어가 다른 두 요청을 같은 키에 저장하거나 이용자별 결과를 구별하지 않으면, 빠르게 응답하더라도 다른 요청의 값을 돌려주는 문제가 생깁니다.

저장 대상은 시스템마다 다릅니다. 웹 캐시는 HTTP 응답을, 애플리케이션 캐시는 데이터 조회 결과를 보관할 수 있습니다. AI 추론의 KV 캐시는 이미 처리한 토큰에서 나온 어텐션 키와 값을 재사용하는 특수한 사례입니다. 공통점은 앞선 작업의 결과를 다시 쓴다는 것이고, 저장하는 내용과 유효성을 판단하는 조건은 서로 다릅니다. 캐시와 KV 캐시를 같은 용어로 합치면 이 범위 차이가 사라집니다.

유효 기간과 재검증

MDN의 HTTP 캐싱 설명은 저장된 응답의 신선도를 기준으로 재사용 여부를 판단하는 과정을 다룹니다. 유효 기간 안의 응답은 원본 서버에 확인하지 않고 쓸 수 있고, 오래된 응답은 서버에 아직 유효한지 확인하는 절차를 거칠 수 있습니다. 유효 기간이 지났다는 사실과 저장된 데이터가 실제로 바뀌었다는 사실은 같지 않습니다.

HTTP의 Cache-Control: no-cache는 저장 자체를 전부 금지하는 이름이 아닙니다. 저장한 응답을 재사용하기 전에 검증하도록 요구하는 지시어이며, no-store는 저장하지 말라는 지시어입니다. 설정 이름이 비슷해도 동작이 다르므로 페이지가 오래 보이는 문제를 고칠 때 값을 임의로 섞어 붙이지 않습니다. 관리형 캐시가 별도 설정을 제공하는 경우에는 그 서비스의 제어 방법도 확인합니다.

원본 데이터를 수정했다고 모든 계층의 캐시가 동시에 갱신되는 것은 아닙니다. 서버의 데이터는 새 값인데 브라우저나 중간 캐시에 예전 응답이 남을 수 있습니다. 변경 직후의 확인에서는 원본 조회 결과와 실제 페이지 응답을 나누어 보면 어느 단계가 오래된 값을 사용했는지 좁힐 수 있습니다. 새로고침 한 번의 결과만으로 원본 저장의 성공이나 실패를 단정하지 않습니다.

무효화와 공유 범위

Redis의 클라이언트 측 캐싱 문서는 애플리케이션이 데이터를 자체 메모리에 보관하고, 원본 변경 시 무효화 알림을 받는 방식을 설명합니다. 저장해 둔 값을 더는 유효하게 취급하지 않도록 하는 것이 무효화입니다. 유효 기간이 끝나기를 기다리는 방식과 변경 시점에 알림을 보내는 방식은 갱신 지연과 관리 비용이 다릅니다.

공유 캐시에서는 서로 다른 이용자의 요청이 같은 저장 공간을 사용합니다. 개인별 응답을 공용 결과처럼 다루면 다른 사람에게 정보가 보일 위험이 있습니다. 캐시 키에 무엇을 넣는지뿐 아니라 어떤 응답을 공유해도 되는지 정책으로 구분합니다. HTTP의 개인 캐시와 공유 캐시 구분도 이 문제와 연결됩니다. 접근 권한이 달라지는 데이터는 원본 조회와 재사용 모두에서 그 조건을 고려합니다.

성능을 평가할 때는 적중률과 함께 실제 지연, 저장 공간, 원본 요청량, 오래된 데이터가 허용되는 시간을 봅니다. 자주 바뀌는 값이나 거의 다시 읽지 않는 값을 많이 저장하면 관리 비용만 커질 수 있습니다. 캐시를 비운 직후에는 원본 요청이 늘어나는지도 확인합니다. 재사용할 값과 갱신 규칙을 명시하면 속도 개선 때문에 정확성이나 운영 부담이 어떻게 달라졌는지 비교할 수 있습니다.