스텝그리드는 AI 가 폰 안에서만 돌아서, 위험한 대화를 서버에서 한 번 더 걸러 줄 곳이 없습니다.그래서 안전은 앱이 직접 챙겨야 했습니다.저는 이걸 프롬프트나 모델에 맡기지 않고, 모델 밖에 코드로 된 가드를 두는 쪽으로 정리했습니다.가드를 나눈 방식과 스트리밍 중 처리, 가드를 세는 방법까지 적었습니다.가드가 무엇에 반응하는지는 우회 방법이 될 수 있어서 적지 않았습니다.확인은 7월 중순부터 8월 중순까지 갤럭시 S25(SM-S938N)와 갤럭시 S10 5G(SM-G977N) 실기기로 했습니다.프롬프트로 안 되던 것스텝그리드는 걸으면서 엉킨 생각을 정리하는 앱이고, 대화 상대는 Gemma 4 E2B 입니다.산책하면서 털어놓는 이야기라 대화가 무거운 쪽으로 가는 일이 꽤 있습니다.혼자 걸으면서 쓰는 ..

온디바이스 AI/설계 판단 2026. 10. 9. 07:00

스텝그리드는 작은 모델이 이상한 답을 내면 한 번 더 생성하게 해 두었습니다.그런데 30턴 대화를 돌려 보니, 다시 생성한 턴은 그렇지 않은 턴보다 다섯 배쯤 느렸습니다.그래서 품질 때문에 다시 생성할 때 쓰던 시간 예산을 45초에서 8초로 줄이고, 한 턴에 한 번까지만 하게 바꿨습니다.대신 같은 말을 되풀이하는 턴이 늘었습니다.처음에 45초로 잡은 건 저사양 기기 때문이었고, 그 측정은 갤럭시 S10 온디바이스 LLM 응답 44초 글에 있습니다.그 글에는 안전 가드에 걸린 답도 다시 생성한다고 적었는데, 코드를 다시 보니 틀린 설명이라 그 글도 같이 바로잡았습니다.숫자는 전부 갤럭시 S25(SM-S938N)에서 Gemma 4 E2B 로 잰 값입니다.같은 대본의 30턴 대화를 자동으로 돌렸습니다.측정한 ..

온디바이스 AI/설계 판단 2026. 10. 6. 07:00

모델을 폰 안에서 돌리기로 정하고 나니, 다음은 어떤 모델을 몇 개나 넣을지였습니다.한동안은 한국어 특화 모델 둘과 Gemma 4 두 개를 같이 두고 있었습니다.지금은 Gemma 4 E2B 와 E4B 한 계열만 남겼습니다.처음 라인업처음에는 Qwen 계열 세 개(0.6B · 1.5B · 4B)로 시작했습니다.7월 중순에 Gemma 4 E2B 와 E4B 를 더했습니다.7월 18일에 대화 케이스 스물세 개를 실기기에서 돌려 봤고, 그 결과로 Qwen 계열을 전부 뺐습니다. 모델 기기 통과 안전 질문 Gemma 4 E2B 갤럭시 S25 19/23 위험하다고 경고 Gemma 4 E2B ..

온디바이스 AI/설계 판단 2026. 10. 3. 07:00

스텝그리드에 AI 대화를 붙이면서 제일 먼저 따져 본 것은 AI 를 어디서 돌릴지였습니다.서버에 둘지, 사용자의 폰 안에 둘지입니다.저는 폰 안에서만 돌리기로 했고 지금까지 그대로 가고 있습니다.이번 글에는 그렇게 정한 이유와 그 때문에 생긴 비용을 정리해 보려고 합니다.스텝그리드는 걸으면서 엉킨 생각을 정리하는 앱입니다.산책을 시작할 때 고민을 한 줄 적으면 걷는 동안 AI 가 되묻습니다.AI 는 구글의 LiteRT-LM 위에서 도는 Gemma 4 E2B 이고, 모델 파일은 약 2.4GB 입니다.처음 원칙세 가지 방식을 표로 놓고 비교한 문서는 사실 남아 있지 않습니다.비교를 하기 전에 원칙이 먼저 정해져 있었습니다.7월 12일에 쓴 첫 설계 문서의 목표는 광고 없음, 네트워크 통신 없음이었습니다.그때..

온디바이스 AI/설계 판단 2026. 9. 30. 07:00

Jetpack Compose 로 화면을 나누고 Activity 는 하나만 두는 앱에서 GA4 화면 보고서를 열면, 화면이 열 개든 스무 개든 목록에는 MainActivity 한 줄만 올라와 있습니다. screen_view 를 직접 보내는 것만으로는 부족하고, screen_class 를 화면마다 다르게 채운 다음 자동 화면 수집을 꺼야 한다는 것입니다. 이 글에서는 그 원인 두 가지와, 화면 이름을 중복도 누락도 없이 보내는 자리를 정리합니다. 다루는 범위는 Firebase Analytics 로 GA4 에 화면을 보내는 경우이고, BigQuery 내보내기로 원본 이벤트를 직접 파는 이야기는 다루지 않습니다. 등록해야 비로소 제대로 도는 성질은 안드로이드 다른 곳에도 있는데, 그쪽 이야기는 Room 마이그레..

Android 기록/트러블슈팅 2026. 9. 18. 07:00

안드로이드에서 화면을 벗어난 뒤에도 살아 있어야 하는 작업을 앱 수명에 매달아 두면, 사용자가 다 끝냈다고 믿은 뒤에도 그 작업이 며칠씩 혼자 도는 수가 있습니다. 이 글에서는 아무도 보고 있지 않은 온디바이스 추론이 닷새 동안 돌고 있던 것을 어떻게 찾았고, 그 작업을 어디에 매달아 어떻게 끊었는지를 정리합니다. 작업을 어느 코루틴 스코프에 올릴지 고르기 전에, 그 작업이 언제 끝나야 하는지를 먼저 정의해야 한다는 것입니다. 다루는 범위는 CoroutineScope 와 Job 취소, 그리고 화면 이탈과 작업 종료를 서로 다른 사건으로 갈라 두는 설계이고, WorkManager 로 미뤄 둔 작업의 스케줄링이나 포그라운드 서비스 권한 이야기는 다루지 않습니다. 화면을 벗어난 뒤에도 무언가가 남아 있는 문제..

Android 기록/트러블슈팅 2026. 9. 17. 07:10

안드로이드에서 정해진 시각에 알림을 하나 띄우는 기능을 만들면, 개발 기기에서는 매일 꼬박꼬박 뜨는데 실제 사용자 기기에서는 그 알림이 떴다는 기록이 단 한 건도 안 남는 일이 있습니다. 이 글에서는 그 원인을 코드에서 찾으려다 실패한 과정과, 대신 계측을 고쳐서 어느 관문에서 끊겼는지를 갈라낸 방법을 정리합니다. 알림이 안 뜨는 원인은 대개 코드가 아니라 실행 환경에 있고, 그래서 코드를 고치기 전에 조건 사이사이에 계측을 심어 어디까지 갔는지부터 재야 한다는 것입니다. 다루는 범위는 WorkManager 주기 작업, POST_NOTIFICATIONS 권한, 알림 채널, 제조사 배터리 관리, 그리고 대안으로 검토했다가 접은 setExactAndAllowWhileIdle 까지이고, 서버에서 밀어주는 원격..

Android 기록/트러블슈팅 2026. 9. 17. 07:00

안드로이드에서 설치 이후에 수백 MB 에서 수 GB 짜리 파일을 내려받아 앱 전용 저장소에 두는 앱을 만들면, 그 파일이 더는 쓸모없어진 뒤에도 앱도 사용자도 지울 수 없는 채로 남는 경우가 생깁니다. 이 글에서는 그런 파일이 어떻게 생기는지와, 남의 데이터를 함께 날리지 않으면서 그것만 골라 지우는 규칙을 정리합니다. 지울 파일 이름을 목록으로 박아 두지 말고, 지금 쓰는 이름에 속하지 않으면서 정해진 확장자를 가진 것을 고아로 정의한 다음, 디렉터리를 통째로 지우는 대신 목록을 먼저 뽑아 확인하고 파일 하나씩 지우는 것입니다. 다루는 범위는 앱이 스스로 filesDir 아래에 내려받아 둔 대용량 자산을 앱이 알아서 정리하는 이야기이고, 공용 저장소나 다른 앱이 만든 파일, 그리고 시스템이 알아서 회수..

Android 기록/트러블슈팅 2026. 9. 16. 07:10