AtmelStudio의 AVRISP_2 에러

Soliloquy 2020. 4. 1. 14:59

🐞

약 100개의 JKIT라는 ATmega128A가 장착된 교육용 키트의 하드웨어 상태를 검수를 해야 하는 일이 있었다. 분업으로 검수용 코드를 짜고 그 코드를 토대로 키트의 버저나 7 세그먼트, 버튼 등이 잘 작동되는지 확인하는 일을 했다.

원래 1년 전까지만 해도 잘 쓰고 있었던 키트들이어서, 작동이 잘 안 되는 일은 없으리라 생각하였지만 100개 중 2개의 키트가 AtmelStudio의 Device Programming 도구가 작동이 잘 안 되는 문제가 발생하였다. 내가 겪은 오류는 'Unable to connect to tool STK500'라는 오류를 내면서 연결이 되지 않는 문제였다.

❌ Unable to connect to tool STK500 (COM9)

Timestamp: 2020-04-01 13:36:11.740
Severity: ERROR
ComponentId: 20100
StatusCode: 1
ModuleName: TCF (TCF command: Tool:connect failed.)

The signature of the attached tool is AVRISP_2, which is unexpected.

내가 겪은 오류 메시지

혹시나 해서 USB 케이블도 교체해 보았지만, 오류가 나타나는 것은 동일하였다. AtmelStudio와 Codevision의 동작에 무슨 차이가 있나?라는 생각에 Codevision을 설치하여 Codevision으로 플래싱을 해보았더니, Codevision은 잘 동작했다. 이 말은 플래싱 자체에는 큰 문제가 없다는 의미였다.

문제 파악

이러한 문제가 나타난 원인을 찾기 위해서 에러 메시지를 살펴보았다. 에러 메시지 의미는 AVRISP_2에 해당하는 도구를 찾을 수 없다는 말이었다. AVRISP_2는 대체 무엇일까? 혹시 키트의 펌웨어에 내가 원하는 답이 있지 않을까? 하여 Codevision의 Chip Programmer에 있는 Programmer's Firmware 확인 기능을 실행시켜보았다. 그리고 문제 해결의 실마리를 찾아낼 수 있었다.

두 펌웨어의 정보가 달랐다. AtmlStudio에서 잘 작동이 되는 펌웨어는 STK500 Firmware를 표시하고 있었고, 반대로 작동이 잘 되지 않는 펌웨어는 AVRISP Firmware를 표시하고 있었다. 펌웨어 때문에 되지 않는 것이 거의 분명해 보였다. 그렇다면 펌웨어 문제를 해결하기 위한 방법은 어떤 것이 있을까? 하여 인터넷을 열심히 찾아다녔다.

그 결과 나와 같은 문제를 가진 사람들을 찾을 수 있었고, 이러한 문제는 펌웨어에 적힌 Programmer Model 펌웨어의 이름 때문에 발생하는 것이 확실해 보였다. 또한 Pololu라는 키트 제작 업체에서는 AtmelStudio 5 이상의 버전에서 작동을 원활히 하기 위해 Chip Programmer Signature를 내가 사용 중인 키트와 동일한 'AVRISP_2'에서 'STK500_2'로 바꿨다는 기록도 있었는데, 이를 미루어 보았을 때, AVRISP_2는 공식적으로 AtmelStudio 버전 4 까지만 지원하는 것 같다.

그렇다면 JKIT 펌웨어를 받아서 내가 'AVRISP_2'를 'STK500_2'로 수정하면 되지 않을까? 해서 펌웨어를 검색해 보았지만, 찾을 수 없었다.

혹여나 공유기 펌웨어 수정 때처럼 펌웨어를 추출하는 방법이 있을까?라는 생각에 추출 방법을 찾아보았고, AVRProg라는 도구를 사용하여 펌웨어 파일을 키트에 올릴 수 있다는 말도 찾았지만, 해당 프로그램이 현재 지원이 중단된 상태라 그런지 관련 정보가 많이 부족하였다.

결국, 펌웨어 수정은 뒤로 미뤄야만 했다.

AtmelStudio 파일 수정

혹시나 AtmelStudio 파일 일부분을 수정하면 사용할 수 있지 않을까?라는 생각에 해당 에러 메시지를 토대로 해결 방법을 찾아가기로 하였다. 그리고 뜻 밖에도 한 블로그에서 헥스 에디터를 이용한 방법을 찾을 수 있었다.^[각주:1]

해당 블로그에서 해결하는 방법을 정리하면 아래와 같았다.

STK 연결을 담당하는 DLL 파일인 com_atmel_hil_stk.dll 파일을 헥스 에디터로 연다.
(7.0 기준 위치: %PROGRAMFILES(x86)%\Atmel\Studio\7.0\atbackend\codeCache)
com_atmel_hil_stk.dll 파일을 백업한다.
dll 파일을 헥스 에디터로 연 다음 STK500_2 부분을 찾고 해당 부분을 AVRISP_2로 수정한다.

작업을 마친 후, 정말 수정 한 번으로 골머리를 썩혔던 문제가 해결될까? 해서 AtmelStudio를 실행시켜 보았는데, 놀랍게도 작동이 잘 된다. 다만, 기존의 AtmelStudio가 잘 작동되던 칩을 사용하지 못하게 되었다는 단점이 있었다. STK500 보드를 사용할 때에는 이전에 백업을 해놓았던 원본 DLL 파일로 교체를 해야만 했다.

펌웨어를 수정하는 것이 근본적인 해결 방법이긴 하나, 그러지 못하는 게 아쉽다.

혹여나 해당 DLL 파일들을 필요로 하는 사람이 있을지 모르겠지만, 아래와 같이 DLL 파일들을 업로드하였다. 사용한 AtmelStudio의 버전은 7.0.2397 버전이다. 업로드된 파일 중 .dll 파일은 수정된 파일이며, .bak 파일은 원본 파일이다.

com_atmel_hil_stk .dll

1.80MB

com_atmel_hil_stk.dll.bak

1.80MB

여담

펌웨어를 확인하는 방법은 CodevisionAVR Chip Programmer 말고도 avrdude라는 프로그램을 통해서도 확인할 수 있었다. 사용 방법은 아래와 같았다.

avrdude.exe -c {프로그래머 종류} -p {MCU종류} -P {포트번호} -v

avrdude를 통한 펌웨어 정보 확인

나의 경우에는 avrdude.exe -c stk500 -p ATmega128 -P COM9 -v 를 통하여 확인할 수 있었다.

AVRISP_2 키트의 경우 나타나는 정보는 아래와 같았다.

System wide configuration file is "C:\Users\...\Desktop\avrdude.conf"

Using Port : COM9
Using Programmer : stk500
AVR Part : ATmega128
Chip Erase delay : 9000 us
PAGEL : PD7
BS2 : PA0
RESET disposition : dedicated
RETRY pulse : SCK
serial program mode : yes
parallel program mode : yes
Timeout : 200
StabDelay : 100
CmdexeDelay : 25
SyncLoops : 32
ByteDelay : 0
PollIndex : 3
PollValue : 0x53
Memory Detail :

Block Poll Page Polled
Memory Type Mode Delay Size Indx Paged Size Size #Pages MinW MaxW ReadBack
----------- ---- ----- ----- ---- ------ ------ ---- ------ ----- ----- ---------
eeprom 4 12 64 0 no 4096 8 0 9000 9000 0xff 0xff
flash 33 6 128 0 yes 131072 256 512 4500 4500 0xff 0xff
lfuse 0 0 0 0 no 1 0 0 9000 9000 0x00 0x00
hfuse 0 0 0 0 no 1 0 0 9000 9000 0x00 0x00
efuse 0 0 0 0 no 1 0 0 9000 9000 0x00 0x00
lock 0 0 0 0 no 1 0 0 9000 9000 0x00 0x00
calibration 0 0 0 0 no 4 0 0 0 0 0x00 0x00
signature 0 0 0 0 no 3 0 0 0 0 0x00 0x00

Programmer Type : STK500V2
Description : Atmel STK500
Programmer Model: AVRISP
Hardware Version: 2
Firmware Version Master : 2.18
Vtarget : 0.0 V
SCK period : 1.1 us

avrdude.exe: AVR device initialized and ready to accept instructions

Reading | ################################################## | 100% 0.02s

avrdude.exe: Device signature = 0x1e9702
avrdude.exe: safemode: lfuse reads as FF
avrdude.exe: safemode: hfuse reads as 99
avrdude.exe: safemode: efuse reads as FF

avrdude.exe: safemode: lfuse reads as FF
avrdude.exe: safemode: hfuse reads as 99
avrdude.exe: safemode: efuse reads as FF
avrdude.exe: safemode: Fuses OK (H:FF, E:99, L:FF)

avrdude.exe done. Thank you.

STK500_2 키트의 경우 나타나는 정보는 아래와 같았다.

System wide configuration file is "C:\Users\...\Desktop\avrdude.conf"

Programmer Type : STK500V2
Description : Atmel STK500
Programmer Model: STK500
Hardware Version: 2
Firmware Version Master : 2.18
Topcard : Unknown
Vtarget : 0.0 V
SCK period : 2.2 us
Varef : 0.0 V
Oscillator : Off

avrdude.exe: AVR device initialized and ready to accept instructions

Reading | ################################################## | 100% 0.02s

avrdude.exe: Device signature = 0x1e9702
avrdude.exe: safemode: lfuse reads as FF
avrdude.exe: safemode: hfuse reads as 91
avrdude.exe: safemode: efuse reads as FF

avrdude.exe: safemode: lfuse reads as FF
avrdude.exe: safemode: hfuse reads as 91
avrdude.exe: safemode: efuse reads as FF
avrdude.exe: safemode: Fuses OK (H:FF, E:91, L:FF)

avrdude.exe done. Thank you.

현재 해당 블로그는 제거되어서 내용을 확인할 수는 없지만, 다행히 구글 캐시 서버에 정보가 남아 있어서 내용을 확인할 수 있었다. [본문으로]

Tattler's Blog Tattler's Blog

문제 파악

AtmelStudio 파일 수정

여담

관련글 관련글 더보기

티스토리툴바