모델을 폰 안에서 돌리기로 정하고 나니, 다음은 어떤 모델을 몇 개나 넣을지였습니다.한동안은 한국어 특화 모델 둘과 Gemma 4 두 개를 같이 두고 있었습니다.지금은 Gemma 4 E2B 와 E4B 한 계열만 남겼습니다.처음 라인업처음에는 Qwen 계열 세 개(0.6B · 1.5B · 4B)로 시작했습니다.7월 중순에 Gemma 4 E2B 와 E4B 를 더했습니다.7월 18일에 대화 케이스 스물세 개를 실기기에서 돌려 봤고, 그 결과로 Qwen 계열을 전부 뺐습니다. 모델 기기 통과 안전 질문 Gemma 4 E2B 갤럭시 S25 19/23 위험하다고 경고 Gemma 4 E2B ..

온디바이스 AI/설계 판단 2026. 10. 3. 07:00

스텝그리드에 AI 대화를 붙이면서 제일 먼저 따져 본 것은 AI 를 어디서 돌릴지였습니다.서버에 둘지, 사용자의 폰 안에 둘지입니다.저는 폰 안에서만 돌리기로 했고 지금까지 그대로 가고 있습니다.이번 글에는 그렇게 정한 이유와 그 때문에 생긴 비용을 정리해 보려고 합니다.스텝그리드는 걸으면서 엉킨 생각을 정리하는 앱입니다.산책을 시작할 때 고민을 한 줄 적으면 걷는 동안 AI 가 되묻습니다.AI 는 구글의 LiteRT-LM 위에서 도는 Gemma 4 E2B 이고, 모델 파일은 약 2.4GB 입니다.처음 원칙세 가지 방식을 표로 놓고 비교한 문서는 사실 남아 있지 않습니다.비교를 하기 전에 원칙이 먼저 정해져 있었습니다.7월 12일에 쓴 첫 설계 문서의 목표는 광고 없음, 네트워크 통신 없음이었습니다.그때..

온디바이스 AI/설계 판단 2026. 9. 30. 07:00

Jetpack Compose 로 화면을 나누고 Activity 는 하나만 두는 앱에서 GA4 화면 보고서를 열면, 화면이 열 개든 스무 개든 목록에는 MainActivity 한 줄만 올라와 있습니다. screen_view 를 직접 보내는 것만으로는 부족하고, screen_class 를 화면마다 다르게 채운 다음 자동 화면 수집을 꺼야 한다는 것입니다. 이 글에서는 그 원인 두 가지와, 화면 이름을 중복도 누락도 없이 보내는 자리를 정리합니다. 다루는 범위는 Firebase Analytics 로 GA4 에 화면을 보내는 경우이고, BigQuery 내보내기로 원본 이벤트를 직접 파는 이야기는 다루지 않습니다. 등록해야 비로소 제대로 도는 성질은 안드로이드 다른 곳에도 있는데, 그쪽 이야기는 Room 마이그레..

Android 기록/트러블슈팅 2026. 9. 18. 07:00

안드로이드에서 화면을 벗어난 뒤에도 살아 있어야 하는 작업을 앱 수명에 매달아 두면, 사용자가 다 끝냈다고 믿은 뒤에도 그 작업이 며칠씩 혼자 도는 수가 있습니다. 이 글에서는 아무도 보고 있지 않은 온디바이스 추론이 닷새 동안 돌고 있던 것을 어떻게 찾았고, 그 작업을 어디에 매달아 어떻게 끊었는지를 정리합니다. 작업을 어느 코루틴 스코프에 올릴지 고르기 전에, 그 작업이 언제 끝나야 하는지를 먼저 정의해야 한다는 것입니다. 다루는 범위는 CoroutineScope 와 Job 취소, 그리고 화면 이탈과 작업 종료를 서로 다른 사건으로 갈라 두는 설계이고, WorkManager 로 미뤄 둔 작업의 스케줄링이나 포그라운드 서비스 권한 이야기는 다루지 않습니다. 화면을 벗어난 뒤에도 무언가가 남아 있는 문제..

Android 기록/트러블슈팅 2026. 9. 17. 07:10

안드로이드에서 정해진 시각에 알림을 하나 띄우는 기능을 만들면, 개발 기기에서는 매일 꼬박꼬박 뜨는데 실제 사용자 기기에서는 그 알림이 떴다는 기록이 단 한 건도 안 남는 일이 있습니다. 이 글에서는 그 원인을 코드에서 찾으려다 실패한 과정과, 대신 계측을 고쳐서 어느 관문에서 끊겼는지를 갈라낸 방법을 정리합니다. 알림이 안 뜨는 원인은 대개 코드가 아니라 실행 환경에 있고, 그래서 코드를 고치기 전에 조건 사이사이에 계측을 심어 어디까지 갔는지부터 재야 한다는 것입니다. 다루는 범위는 WorkManager 주기 작업, POST_NOTIFICATIONS 권한, 알림 채널, 제조사 배터리 관리, 그리고 대안으로 검토했다가 접은 setExactAndAllowWhileIdle 까지이고, 서버에서 밀어주는 원격..

Android 기록/트러블슈팅 2026. 9. 17. 07:00

안드로이드에서 설치 이후에 수백 MB 에서 수 GB 짜리 파일을 내려받아 앱 전용 저장소에 두는 앱을 만들면, 그 파일이 더는 쓸모없어진 뒤에도 앱도 사용자도 지울 수 없는 채로 남는 경우가 생깁니다. 이 글에서는 그런 파일이 어떻게 생기는지와, 남의 데이터를 함께 날리지 않으면서 그것만 골라 지우는 규칙을 정리합니다. 지울 파일 이름을 목록으로 박아 두지 말고, 지금 쓰는 이름에 속하지 않으면서 정해진 확장자를 가진 것을 고아로 정의한 다음, 디렉터리를 통째로 지우는 대신 목록을 먼저 뽑아 확인하고 파일 하나씩 지우는 것입니다. 다루는 범위는 앱이 스스로 filesDir 아래에 내려받아 둔 대용량 자산을 앱이 알아서 정리하는 이야기이고, 공용 저장소나 다른 앱이 만든 파일, 그리고 시스템이 알아서 회수..

Android 기록/트러블슈팅 2026. 9. 16. 07:10

안드로이드에서 온디바이스 LLM 을 돌리는 앱을 만들면, 개발용 최신 기기에서는 멀쩡하던 응답이 몇 년 지난 기기에서는 한 턴에 수십 초씩 걸리는 경우가 있습니다. 이 글에서는 2019년에 나온 갤럭시 S10 5G 에서 실제로 잰 응답 시간과, 그 시간을 더 줄이지 못한 채로 받아들이고 대신 다른 것을 바꾼 판단을 정리합니다. 제가 내린 결론은 기기 등급을 판별해서 분기하지 말고, 실제로 흘러간 시간에 예산을 걸라는 것입니다. 다루는 범위는 2.4GB 짜리 소형 LLM 을 기기 안에서 돌릴 때의 응답 지연과 그에 대한 대응이고, 양자화 방식이나 가속 델리게이트를 바꿔서 생성 속도 자체를 끌어올리는 이야기는 다루지 않습니다. 같은 코드가 기기마다 다르게 도는 문제를 앞서 다룬 적이 있는데, 센서 쪽 이야기..

온디바이스 AI/구현 기록 2026. 9. 16. 07:00

안드로이드에서 Compose UI 계측 테스트를 실기기에 올려 돌리다 보면, ./gradlew connectedAndroidTest 한 번에 앱이 통째로 지워져서 로컬 DB 와 내려받아 둔 큰 파일이 함께 날아갈 때가 있습니다. 이 글에서는 그 태스크가 실제로 무엇을 하는지, 지우지 않고 같은 테스트를 돌리려면 무엇으로 갈아타야 하는지, 그리고 그렇게 갈아탄 뒤에 따라붙는 건너뛴 테스트가 통과로 보고되는 문제를 어떻게 막았는지를 정리합니다. 결과를 JUnit 요약이 아니라 am instrument -r 의 상태 코드로 직접 세야 한다는 것인데, 건너뛴 테스트가 그 요약에서는 통과와 구분되지 않기 때문입니다. 다루는 범위는 실기기 계측 테스트의 설치 동작과 결과 판정, 그리고 테스트 사이에 데이터가 남아 ..

Android 기록/트러블슈팅 2026. 9. 15. 07:10