윈도우 11 업데이트 이후 멀쩡하던 공유 폴더가 갑자기 자격 증명을 요구하며 차단되는 현상은 보안 정책 강화로 인한 전형적인 오류입니다. 계정 정보를 정확히 입력해도 액세스가 거부되는 답답한 상황을 로컬 그룹 정책과 레지스트리 편집을 통해 즉시 해결할 수 있는 확실한 가이드를 확인해 보세요.
최신 업데이트 이후 네트워크 접근 불가 원인 분석
보안되지 않은 게스트 로그온 차단 정책
윈도우 11 24H2 버전 이상에서 가장 흔하게 발생하는 원인은 마이크로소프트의 보안 강화 조치입니다. 기존에는 별도의 인증 없이도 접근이 가능했던 ‘게스트 로그온’ 방식이 보안 취약점으로 간주되어 시스템 차원에서 기본적으로 차단되도록 변경되었습니다. 이로 인해 NAS나 구형 윈도우 버전이 설치된 PC의 공유 폴더에 접근하려고 할 때, 올바른 아이디와 비밀번호를 입력해도 ‘네트워크 자격 증명 입력’ 창이 무한 반복되거나 0x80070035와 같은 확장 오류 코드가 출력되는 것입니다. 이는 단순한 연결 문제가 아니라 운영체제 내부의 보안 프로토콜 규격이 맞지 않아 발생하는 현상입니다.
디지털 서명 통신 및 SMB 방화벽 규칙 변경
최근 보안 패치는 SMB(Server Message Block) 데이터의 위변조를 막기 위해 모든 통신 단계에서 디지털 서명을 강제로 요구합니다. 만약 접속하려는 대상 기기가 이 서명 기능을 지원하지 않거나 설정이 불일치할 경우 연결은 즉시 중단됩니다. 또한, 윈도우 11에서는 공용 네트워크뿐만 아니라 내부 네트워크에서도 SMB 포트(445번)에 대한 방화벽 규칙이 대폭 강화되었습니다. 따라서 네트워크 프로필이 ‘개인’이 아닌 ‘공용’으로 설정되어 있거나, 타사 백신 프로그램(Norton, McAfee 등)이 윈도우 자체 보안 정책과 충돌을 일으켜 정상적인 자격 증명 절차를 방해하는 사례가 빈번하게 보고되고 있습니다.
윈도우 버전 간 인증 프로토콜 불일치
윈도우 10과 윈도우 11이 혼재된 사무실 환경에서는 SMB 1.0부터 3.0까지의 버전 차이가 호환성 문제를 야기합니다. 최신 윈도우는 보안상 취약한 SMB 1.0을 기본적으로 비활성화해 두었으나, 구형 프린터나 오래된 서버 장비는 여전히 낮은 버전의 프로토콜을 사용하기 때문입니다. 이 과정에서 서로의 인증 수준을 이해하지 못해 자격 증명 오류가 발생하게 됩니다. 특히 Home 에디션 사용자의 경우 프로페셔널 버전에서 제공하는 로컬 보안 정책 편집기(gpedit.msc)를 사용할 수 없어 설정 변경에 더 큰 어려움을 겪게 되는데, 이는 레지스트리 값을 직접 수정하여 해결해야 합니다.
자격 증명 오류 해결을 위한 단계별 실행 매뉴얼
단계별 실행 매뉴얼
가장 먼저 윈도우 키와 R키를 동시에 눌러 실행 창을 띄운 뒤 ‘gpedit.msc’를 입력하여 로컬 그룹 정책 편집기를 실행합니다. 만약 실행되지 않는 Home 버전이라면 레지스트리 편집기를 활용해야 합니다. 편집기에서 [컴퓨터 구성 > 관리 템플릿 > 네트워크 > Lanman 워크스테이션] 경로로 이동하십시오. 여기서 ‘보안되지 않은 게스트 로그온 사용’ 항목을 찾아 ‘사용’으로 변경합니다. 이어서 ‘안전하지 않은 게스트 로그온 감사’ 설정도 함께 ‘사용’으로 활성화합니다. 마지막으로 [컴퓨터 구성 > Windows 설정 > 보안 설정 > 로컬 정책 > 보안 옵션]에서 ‘Microsoft 네트워크 클라이언트: 디지털 서명 통신(항상)’ 항목을 ‘사용 안 함’으로 변경한 뒤 시스템을 재부팅하면 대부분의 자격 증명 요구 현상이 사라집니다.
핵심 주의사항 및 실전 팁
설정을 변경한 후에도 접속이 되지 않는다면 제어판의 ‘Windows 기능 켜기/끄기’에서 ‘SMB 1.0/CIFS 파일 공유 지원’이 체크되어 있는지 확인하십시오. 다만 SMB 1.0은 보안에 취약하므로 꼭 필요한 경우가 아니라면 SMB 2.0 이상을 사용하는 것을 권장합니다. 또한, 공유를 시도하는 대상 PC의 ‘고급 공유 설정’에서 ‘암호 보호 공유’가 켜져 있는지 확인하고, 암호를 설정하지 않고 사용하려는 경우에는 이 옵션을 반드시 꺼주어야 자격 증명 창이 뜨지 않습니다. 타사 보안 소프트웨어가 설치되어 있다면 일시적으로 실시간 감시를 중단하고 테스트해보는 것도 중요한 실무 팁 중 하나입니다.
네트워크 환경 최적화 및 고급 설정 방법
전문가 추천 최적화 설정
네트워크 성능과 보안을 동시에 잡기 위해서는 ‘네트워크 프로필’ 설정을 가장 먼저 점검해야 합니다. 설정 메뉴의 [네트워크 및 인터넷]에서 현재 연결된 이더넷 또는 Wi-Fi의 속성을 ‘개인’으로 변경하십시오. ‘공용’으로 설정된 경우 윈도우는 해당 네트워크를 신뢰하지 않아 모든 파일 공유 요청을 차단합니다. 또한 PowerShell을 관리자 권한으로 실행하여 ‘Set-SmbServerConfiguration -EnableSMB2Protocol $true’ 명령어를 입력해 최신 프로토콜이 정상적으로 작동하도록 강제하는 것이 좋습니다. 만약 특정 업데이트(예: KB5068861) 이후 문제가 발생했다면, 업데이트 기록에서 해당 패치를 제거하는 것만으로도 즉각적인 복구가 가능합니다.
| 핵심 분석 항목 | 상세 주요 내용 | 기대 효과 및 이득 |
|---|---|---|
| 게스트 로그온 허용 | Lanman 워크스테이션 정책 변경 | 인증 창 무한 반복 현상 즉시 해결 |
| 디지털 서명 비활성화 | 보안 옵션 내 클라이언트 서명 거부 | 인증 서버 불일치로 인한 차단 방지 |
| SMB 1.0 활성화 | 윈도우 기능 켜기/끄기 설정 | 구형 NAS 및 프린터와의 호환성 확보 |
| 네트워크 프로필 변경 | 공용에서 개인 네트워크로 전환 | 방화벽에 의한 자동 차단 해제 |
| 암호 보호 공유 해제 | 고급 공유 설정 내 옵션 조정 | 비밀번호 없는 간편한 폴더 접근 가능 |
| 레지스트리 직접 수정 | AllowInsecureGuestAuth 값 변경 | Home 버전 사용자의 정책 강제 적용 |
윈도우 Home 버전 사용자를 위한 특별 조치
윈도우 Home 버전은 그룹 정책 편집기가 포함되어 있지 않아 설정에 제약이 많습니다. 이 경우 레지스트리 편집기(regedit)를 통해 직접 값을 주입해야 합니다. HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\LanmanWorkstation\Parameters 경로로 이동하여 AllowInsecureGuestAuth라는 이름의 DWORD(32비트) 값을 생성하고 데이터 값을 ‘1’로 수정하십시오. 또한 RequireSecuritySignature 값을 찾아 ‘0’으로 설정하면 보안 서명 요구를 건너뛸 수 있습니다. 이러한 작업은 시스템의 핵심 설정값을 건드리는 것이므로 작업 전 반드시 복원 지점을 생성하거나 레지스트리를 백업해두는 습관이 필요합니다. 올바르게 적용되었다면 별도의 계정 입력 없이도 상대방 PC의 공유 자원에 즉시 연결됩니다.
마무리하며
네트워크 자격 증명 오류는 윈도우 시스템의 보안 지향점이 변화함에 따라 발생하는 자연스러운 과정입니다. 위에서 설명해 드린 정책 변경과 레지스트리 수정을 차근차근 따라 하신다면 전문가의 도움 없이도 충분히 문제를 해결하고 쾌적한 업무 환경을 구축하실 수 있습니다. 네트워크 연결은 업무 효율성과 직결되는 만큼, 이번 기회에 기본 설정을 완벽히 마스터하여 추후 발생할 수 있는 오류에도 의연하게 대처해 보시기 바랍니다.
추가적으로 참고할 자료
1. 윈도우 11 24H2 보안 업데이트 상세 변경 로그
2. SMB 프로토콜 버전별 보안 취약점 분석 보고서
3. 로컬 그룹 정책 편집기 강제 설치 스크립트 활용법
4. 공유 폴더 권한 설정 및 NTFS 보안 탭 구성 방법
5. 네트워크 아이콘 미출력 시 탐색기 초기화 조치법
내용 정리 및 요약
네트워크 자격 증명 오류의 주된 원인은 윈도우 업데이트로 인한 게스트 로그온 차단과 디지털 서명 강제 정책에 있습니다.
로컬 그룹 정책 편집기 또는 레지스트리에서 보안되지 않은 게스트 로그온을 허용하고 서명 요구를 비활성화하여 해결할 수 있습니다.
네트워크 프로필을 ‘개인’으로 설정하고 SMB 호환성을 점검하는 것이 안정적인 공유 환경을 유지하는 핵심입니다.
자주 묻는 질문 (FAQ) 📖
Q: 계정과 비밀번호가 확실한데 왜 자꾸 틀렸다고 나오나요?
A: 이는 실제 비밀번호가 틀린 것이 아니라, 접속하려는 PC와 접속 받는 PC 사이의 ‘인증 프로토콜’이 일치하지 않기 때문입니다. 특히 윈도우 11은 더 높은 보안 등급을 요구하는데, 상대 PC가 이에 응답하지 못하면 윈도우는 보안을 위해 의도적으로 접근을 거부하고 자격 증명 창을 다시 띄웁니다. 본문의 게스트 로그온 허용 설정을 적용하면 해결됩니다.
Q: gpedit.msc를 입력했는데 찾을 수 없다고 나옵니다.
A: 현재 사용 중인 운영체제가 ‘Windows Home’ 에디션이기 때문입니다. 홈 버전에는 그룹 정책 편집기가 기본적으로 제외되어 있습니다. 본문 하단에 안내해 드린 레지스트리 편집(regedit) 방법을 사용하시거나, 별도의 배치 파일을 통해 홈 버전에 그룹 정책 편집기를 강제로 활성화하는 과정을 거쳐야 합니다.
Q: 설정을 다 바꿨는데도 공유 폴더가 보이지 않습니다.
A: 네트워크 검색 기능이 꺼져 있을 가능성이 높습니다. [제어판 > 네트워크 및 공유 센터 > 고급 공유 설정 변경]에서 ‘네트워크 검색 켜기’와 ‘파일 및 프린터 공유 켜기’가 활성화되어 있는지 확인하십시오. 또한 서비스(services.msc) 항목 중 ‘Function Discovery Resource Publication’ 서비스가 ‘자동’으로 실행 중인지 점검해 보시기 바랍니다.
Q: 보안되지 않은 게스트 로그온을 허용하면 위험하지 않나요?
A: 보안 측면에서는 권장되지 않는 것이 사실입니다. 외부 침입이 가능한 공용 Wi-Fi 환경에서는 위험할 수 있으나, 가정이나 사무실 내부의 신뢰할 수 있는 LAN 환경에서는 편의를 위해 허용하는 경우가 많습니다. 보안이 중요하다면 모든 사용자에게 암호를 부여하고 ‘암호 보호 공유’를 켠 상태로 정식 계정 인증을 거치는 것이 가장 안전합니다.
Q: 특정 업데이트를 지우라고 하는데 어떤 걸 지워야 하나요?
A: 2025년 하반기 패치 중 KB5065426, KB5065431, 그리고 11월에 배포된 KB5068861 업데이트가 네트워크 공유 관련 이슈를 일으키는 것으로 알려져 있습니다. [설정 > Windows 업데이트 > 업데이트 기록 > 업데이트 제거] 메뉴에서 해당 번호를 찾아 제거한 뒤 증상이 개선되는지 확인해 보시는 것이 좋습니다.
