그 이후로 OpenAI는 ChatGPT를 강화하여 탈옥 실행을 훨씬 더 어렵게 만들었습니다. 하지만 그게 전부는 아닙니다. ChatGPT 탈옥은 일반적으로 종료된 것으로 보이며 ChatGPT 사용자는 탈옥이 전혀 작동하는지 궁금해합니다.

그렇다면 ChatGPT 탈옥은 모두 어디로 갔나요?

1. ChatGPT 프롬프트 기술이 전반적으로 향상되었습니다.

ChatGPT가 출시되기 전에는 AI와 대화하는 것이 연구실에 종사하는 사람들에게만 국한된 틈새 기술이었습니다. 대부분의 초기 사용자는 효과적인 프롬프트를 만드는 데 대한 전문 지식이 부족했습니다. 이로 인해 많은 사람들이 최소한의 노력과 기술을 활용하여 원하는 작업을 챗봇이 수행하도록 하는 편리한 방법인 탈옥을 사용하게 되었습니다.

오늘날 풍경은 진화했습니다. 숙련도를 높이는 것이 주류 기술이 되고 있습니다. 반복적인 사용을 통해 얻은 경험과 무료로 제공되는 ChatGPT 프롬프트 가이드에 대한 액세스를 통해 ChatGPT 사용자는 프롬프트 능력을 연마했습니다. 탈옥과 같은 해결 방법을 찾는 대신 ChatGPT 사용자의 대부분은 과거에 탈옥이 필요했던 목표를 달성하기 위해 다양한 프롬프트 전략을 사용하는 데 더 능숙해졌습니다.

2. 검열되지 않은 챗봇의 부상

대규모 기술 회사가 ChatGPT와 같은 주류 AI 챗봇에 대한 콘텐츠 조정을 강화함에 따라 소규모의 이익 중심 스타트업은 더 적은 제한을 선택하고 수요에 베팅합니다. 검열 없는 AI 챗봇을 위해. 약간의 조사를 통해 원하는 거의 모든 작업을 수행할 수 있는 무수정 챗봇을 제공하는 수십 개의 AI 챗봇 플랫폼을 찾을 수 있습니다.

ChatGPT가 쓰기를 거부하는 범죄 스릴러와 어두운 유머 소설을 쓰는 것이든, 사람들의 컴퓨터를 공격하는 악성 코드를 쓰는 것이든, 왜곡된 도덕적 나침반을 가진 이 무수정 챗봇은 당신이 원하는 것은 무엇이든 할 것입니다. 그들과 함께라면 ChatGPT 탈옥을 작성하기 위해 추가 에너지를 쏟을 필요가 없습니다. ChatGPT만큼 강력하지는 않지만 이러한 대체 플랫폼은 다양한 작업을 편안하게 수행할 수 있습니다. FlowGPT 및 Unhinged AI와 같은 플랫폼이 인기 있는 예입니다.

3. 탈옥이 더욱 어려워졌습니다.

ChatGPT 초기에 ChatGPT를 탈옥하는 것은 온라인 소스에서 메시지를 복사하여 붙여넣는 것만큼 간단했습니다. 몇 줄의 까다로운 지침만으로 ChatGPT의 성격을 완전히 바꿀 수 있습니다. 간단한 프롬프트를 통해 ChatGPT를 폭탄 만드는 방법을 가르치는 사악한 악당이나 제한 없이 모든 형태의 욕설을 기꺼이 사용하는 챗봇으로 바꿀 수 있습니다. DAN(Do Anything Now)과 같은 악명 높은 탈옥을 만들어낸 난투극이었습니다. DAN에는 챗봇이 요청한 모든 작업을 거부하지 않고 수행하도록 강요하는 겉으로는 무해해 보이는 일련의 지침이 포함되어 있습니다. 놀랍게도 당시에는 이러한 조잡한 수법이 효과가 있었습니다.

하지만 그 거친 초기 시절은 이제 역사입니다. 이러한 기본 프롬프트와 저렴한 트릭은 더 이상 ChatGPT를 속이지 않습니다. 이제 탈옥에는 OpenAI의 강력한 보호 장치를 우회할 수 있는 복잡한 기술이 필요합니다. 탈옥이 너무 어려워지면서 대부분의 사용자는 탈옥을 시도하기가 너무 낙담합니다. ChatGPT 초기의 쉽고 광범위한 공격은 사라졌습니다. 이제 챗봇이 잘못된 단어 하나를 말하도록 하려면 시간과 노력을 들일 가치가 없을 수도 있는 상당한 노력과 전문 지식이 필요합니다.

4. 참신함이 낡아졌습니다

많은 사용자가 ChatGPT를 탈옥하려는 시도를 하게 만든 원동력은 초기에 그렇게 하는 스릴과 흥분이었습니다. 새로운 기술로서 ChatGPT가 오작동하도록 만드는 것은 재미 있었고 자랑할 권리도 얻었습니다. ChatGPT 탈옥에 대한 실용적인 응용 프로그램은 셀 수 없이 많지만 많은 사람들이 "와, 내가 뭘 했는지 보세요"라는 호소를 위해 이를 추구했습니다. 그러나 점차적으로 참신함에서 비롯된 흥분은 사라졌고, 이와 함께 탈옥에 시간을 할애하려는 사람들의 관심도 사라졌습니다.

5. 탈옥은 빠르게 패치됩니다.

ChatGPT 탈옥 커뮤니티의 일반적인 관행은 성공한 모든 익스플로잇을 발견했을 때 공유하는 것입니다. 문제는 익스플로잇이 널리 공유되면 OpenAI가 이를 인지하고 취약점을 수정하는 경우가 많다는 것입니다. 이는 관심 있는 사람들이 시도하기도 전에 탈옥이 작동을 멈춘다는 것을 의미합니다.

따라서 ChatGPT 사용자가 공들여 새로운 탈옥을 개발할 때마다 이를 커뮤니티와 공유하면 패치를 통해 탈옥이 가속화됩니다. 이는 사용자가 탈옥을 발견할 때마다 공개하려는 아이디어를 약화시킵니다. 탈옥을 활성 상태로 유지하는 것과 이를 공개하는 것 사이의 갈등은 ChatGPT 탈옥 제작자에게 딜레마를 야기합니다. 요즘 사람들은 허점이 패치되는 것을 피하기 위해 탈옥을 비밀로 유지하는 경우가 많습니다.

6. 무수정 로컬 대안

컴퓨터에서 로컬로 실행할 수 있는 로컬 대형 언어 모델의 등장으로 인해 ChatGPT 탈옥에 대한 관심도 줄어들었습니다. 로컬 LLM이 완전히 검열이 없는 것은 아니지만 많은 경우 검열이 훨씬 덜하고 사용자의 요구에 맞게 쉽게 수정할 수 있습니다. 따라서 선택은 간단합니다. 챗봇을 속여서 곧 고칠 수 있는 방법을 찾는 끝없는 고양이와 쥐 게임에 참여할 수 있습니다. 또는 원하는 작업을 수행하기 위해 영구적으로 수정할 수 있는 현지 LLM을 선택할 수도 있습니다.

검열이 느슨해도 컴퓨터에 배포할 수 있는 강력한 무검열 LLM의 놀랍도록 긴 목록을 찾을 수 있습니다. 주목할만한 것으로는 Llama 7B(무수정), Zephyr 7B Alpha, Manticore 13B, Vicuna 13B 및 GPT-4-X-Alpaca가 있습니다.

7. 이제 전문 탈옥 프로그램을 이익을 위해 판매합니다.

아무것도 얻을 수 없다면 왜 탈옥 메시지를 개발하는 데 귀중한 시간을 투자합니까? 글쎄, 일부 전문가들은 이제 이익을 위해 탈옥을 판매합니다. 이러한 전문 탈옥 제작자는 특정 작업을 수행하는 탈옥을 설계하고 이를 PromptBase와 같은 프롬프트 마켓플레이스에 판매용으로 나열합니다. 기능에 따라 이러한 탈옥 프롬프트는 프롬프트당 2달러에서 15달러 사이에 판매될 수 있습니다. 일부 복잡한 다단계 공격에는 비용이 훨씬 더 많이 들 수 있습니다.

탈옥 단속이 역효과를 낳을 수 있을까요?

탈옥은 완전히 사라지지 않았습니다. 그들은 방금 지하로 들어갔습니다. OpenAI로 수익을 창출하는 ChatGPT를 사용하면 비즈니스 모델에 영향을 미칠 수 있는 유해한 사용을 제한할 수 있는 더 강력한 인센티브를 갖게 됩니다. 이러한 상업적 요인은 탈옥 공격을 단속하려는 공격적인 노력에 영향을 미칠 가능성이 높습니다.

그러나 OpenAI의 ChatGPT 검열은 현재 사용자들 사이에서 점점 더 많은 비판을 받고 있습니다. AI 챗봇의 일부 합법적인 사용 사례는 엄격한 검열로 인해 더 이상 가능하지 않습니다. 보안이 강화되면 유해한 사용 사례로부터 보호되지만 과도한 제한으로 인해 궁극적으로 ChatGPT 커뮤니티의 일부가 덜 검열된 대안의 품으로 밀려날 수 있습니다.