온디바이스에서도 동일하게 동작하는 AI 데이터베이스

온디바이스 컴퓨팅의 시대와 SQLite

과거 모바일과 임베디드 애플리케이션이 본격적으로 확산되던 시기에, 온디바이스 환경에서 데이터를 안정적으로 저장하고 관리할 수 있는 선택지는 많지 않았습니다. 이 시점에서 SQLite는 매우 실용적인 해답이었습니다. 별도의 서버 프로세스 없이 애플리케이션 내부에 라이브러리 형태로 포함될 수 있고, 단일 파일 기반으로 데이터를 관리할 수 있다는 특성은 디바이스 환경과 잘 맞았습니다. 이러한 특성 덕분에 SQLite는 모바일과 임베디드 애플리케이션 전반에서 널리 사용되기 시작했습니다.

AI가 온디바이스로 이동하면서 달라진 요구

지금 AI가 겪고 있는 변화도 본질적으로는 이와 유사합니다. AI는 더 이상 서버 안에서만 동작하지 않고, 모바일 디바이스, 데스크톱 애플리케이션, 산업 장비, 의료·바이오 장비 등 온디바이스 환경으로 점점 이동하고 있습니다. 그러나 오늘날의 온디바이스 AI는 단순히 데이터를 로컬에 저장하는 수준을 넘어, 훨씬 복잡한 요구를 전제로 합니다. 로컬에서 추론을 수행하는 동시에, 지속적인 컨텍스트를 유지하고, 디바이스 내부에 존재하는 다양한 데이터를 기반으로 의미 있는 판단을 내려야 합니다.

온디바이스 AI는 상태(state)를 전제로 한다

온디바이스 AI의 핵심은 상태(state)를 가진다는 점입니다. 사용자별 사용 이력, 디바이스 내부에 저장된 문서와 로그, 이전 대화 컨텍스트, 그리고 이들을 임베딩한 벡터 데이터는 모두 AI의 품질을 좌우합니다. 이러한 데이터는 단순한 파일이나 메모리 캐시로 관리하기 어렵습니다. 의미 검색, 조건 필터링, 정렬, 갱신이 반복되면서 로컬 데이터 역시 데이터베이스 수준의 관리가 필요해집니다. 이 지점에서 온디바이스 AI는 자연스럽게 온디바이스 DB를 전제로 하는 시스템이 됩니다.

기존 데이터베이스 스택의 한계

문제는 기존 데이터베이스 스택이 이러한 요구를 염두에 두고 설계되지 않았다는 점입니다. 지금까지의 AI 서비스는 서버 환경을 기준으로 OLTP 데이터베이스, 분석용 OLAP 시스템, 캐시, 전문 검색 엔진, 벡터 데이터베이스를 조합하는 구조를 사용해 왔습니다. 이 구조는 서버에서는 성립하지만, 온디바이스 환경으로 그대로 옮기기에는 무리가 있습니다. 그 결과 SQLite에는 메타데이터만 저장하고, 벡터는 별도의 라이브러리나 파일로 관리하며, 검색과 트랜잭션을 분리한 채 디바이스와 서버를 서로 다른 아키텍처로 운영하는 경우가 많아집니다. 이러한 방식은 초기에는 동작하지만, AI 기능이 확장될수록 데이터 일관성과 시스템 복잡성 측면에서 빠르게 한계에 도달합니다.

문제의 핵심은 AI가 아니라 DB 아키텍처

온디바이스 AI가 어려운 이유는 모델의 성능이나 추론 속도에만 있지 않습니다. 본질적인 문제는 데이터베이스 아키텍처에 있습니다. AI는 동시에 트랜잭션 처리, 로컬 분석, 텍스트 및 구조화 검색, 벡터 기반 의미 검색, 빠른 캐시 접근을 요구합니다. 이 워크로드를 각각 다른 저장소로 나누는 순간, 온디바이스 환경에서는 구조적으로 불안정해질 수밖에 없습니다. 과거 온디바이스 컴퓨팅 환경에서 SQLite가 자연스럽게 선택되었던 것처럼, 온디바이스 AI 역시 처음부터 하나의 구조로 설계된 데이터베이스를 필요로 합니다.

Cognica의 접근 방식

Cognica는 이 문제를 온디바이스용 기능을 덧붙이는 방식이 아니라, 데이터베이스 아키텍처 자체의 문제로 접근합니다. Cognica는 트랜잭션 처리, 분석, 전문 검색, 벡터 검색, 캐시를 하나의 데이터 모델과 하나의 실행 엔진 위에서 제공합니다. 중요한 점은 이 구조가 서버에서만 가능한 구성이 아니라, 온디바이스에서도 동일하게 동작한다는 점입니다. 데이터 모델이 달라지지 않고, 쿼리 인터페이스가 바뀌지 않으며, 검색의 의미 역시 실행 환경에 따라 달라지지 않습니다.

온디바이스를 지원하는 것과 온디바이스에서 동일하게 동작하는 것의 차이

많은 데이터베이스가 온디바이스를 지원한다고 말합니다. 그러나 실제로는 기능 제한이나 인덱스 미지원, 서버와 다른 동작 방식으로 인해 개발 환경이 분기되는 경우가 많습니다. 이는 결국 AI 로직과 데이터 로직을 환경별로 나누게 만들고, 서비스 품질의 일관성을 해칩니다. Cognica가 지향하는 것은 배포 위치가 바뀌어도 데이터 아키텍처는 바뀌지 않는 구조입니다. 온디바이스, 엣지, 서버, 클라우드 어디에서 실행되든 AI가 바라보는 데이터 구조는 동일해야 합니다.

온디바이스 AI와 서버 AI는 하나의 흐름

현실의 AI 서비스는 추론과 즉각적인 반응은 디바이스에서 수행하고, 개인화 컨텍스트 역시 로컬에 유지하며, 집계와 학습은 서버에서 처리하는 혼합 구조로 진화하고 있습니다. 검색과 RAG는 이 두 영역을 오가며 동시에 사용됩니다. 이때 데이터베이스가 분리되어 있으면 로직이 갈라지고 검색 결과가 달라지며 AI 품질이 일관되지 않게 됩니다. Cognica는 이러한 경계를 데이터베이스 차원에서 제거하는 것을 목표로 합니다.

정리하며

과거 온디바이스 컴퓨팅 환경에서 SQLite가 널리 사용된 이유는, 그 환경에 자연스럽게 맞는 데이터베이스였기 때문입니다. 지금 온디바이스 AI가 요구하는 것도 본질적으로 다르지 않습니다. 온디바이스 AI를 제대로 구현하려면 로컬 환경에서도 상태 관리와 의미 검색이 가능해야 하고, 이를 위해서는 온디바이스 AI를 완전히 지원하는 데이터베이스가 필요합니다. Cognica는 AI를 위해 새로 만든 데이터베이스라기보다, AI로 인해 기존의 분절된 데이터베이스 조합이 더 이상 성립하지 않게 된 결과 등장한 데이터베이스입니다. 그리고 이 데이터베이스는 온디바이스에서도, 서버에서도 동일하게 동작합니다.