내가 삼성의 Vision AI에 약간 소름끼치는 이유

요약

삼성의 Vision AI는 더 나은 스마트 TV 경험을 위해 실시간 번역 및 클릭하여 검색과 같은 몇 가지 유용한 기능을 제공합니다.
Vision AI가 가족 구성원과 애완동물을 모니터링하고, 본 내용을 기반으로 스마트 홈을 조정하며, 침입자가 이 정보에 액세스할 경우 보안에 잠재적인 영향을 미칠 수 있으므로 개인 정보 보호에 대한 몇 가지 큰 우려 사항이 있습니다.
Vision AI와 같은 기능은 사용자 제어 및 개인 정보 보호를 유지하기 위해 항상 선택 해제가 아닌 선택이어야 합니다.

삼성은 CES 2025에서 TV와 스마트 홈 생태계에 완전히 새로운 기능을 제공하는 Vision AI를 공개했습니다. 또한 테이블에 상당히 소름 끼치는 기능을 제공합니다. 설명하겠습니다.

삼성의 Vision AI는 어떤 일을 할까요?

삼성은 TV와 함께 사용할 때 "삼성 TV가 주변 환경을 인식하고 사용자 선호도에 적응하며 자율적으로 직관적인 기능을 제공하는" 방법으로 새로운 Vision AI를 홍보합니다. 그러나 사용 사례는 TV가 "주변 환경을 인식"(수반되는 모든 것)하는 것 이상입니다.

Vision AI는 또한 삼성의 SmartThings 스마트 홈 생태계와 통합되는데, 이는 부분적으로 "소름 끼치는" 요소가 들어오는 부분입니다. 기본적으로 Vision AI 시스템은 삼성의 스마트 제품을 모든 면에서 더욱 개인화하도록 설계되었습니다.

여기에 있으면 좋은 점이 있습니다

Vision AI에 대해 잠시 후에 다루게 될 몇 가지 우려되는 측면이 있지만, 먼저 이 새로운 Samsung 기능이 가져오는 몇 가지 장점에 대해 이야기하고 싶습니다. 우선, 온디바이스 AI 모델을 기반으로 실시간 번역을 제공합니다.

즉, TV에서 스페인어로 프로그램을 시청할 수 있고, 온디바이스 AI 엔진을 사용하여 TV에서 실시간 자막 번역을 제공할 수 있다는 의미입니다. 이는 특히 라이브 방송의 경우 무한한 가능성의 세계를 열어줍니다. 나는 이 기능이 상대적으로 획기적이며 어떤 거실에도 환영받는 추가 기능이라는 점에 깊은 인상을 받았다는 점을 인정합니다.

"검색하려면 클릭"도 매우 멋진 기능입니다. 화면에 표시된 내용에 대한 즉각적인 정보를 제공합니다. 여기에는 행위자 식별, 표시된 콘텐츠 확인 등이 포함됩니다. 당신이 읽고 있는 책에 대한 정보를 상황에 맞게 알려주는 아마존의 킨들 엑스레이(Kindle X-Ray)가 생각난다.

내가 삼성 비전 AI에 소름끼치는 이유

하지만 햇빛과 무지개가 전부는 아닙니다. 여기에는 좋은 부분도 있지만... 그렇지 않은 부분도 있습니다.

우선, 삼성이 "안전 경고 및 일일 업데이트를 포함하여 가정 환경에 대한 실시간 업데이트"를 제공한다고 말하는 Home Insights는 좋은 응용 프로그램과 나쁜 응용 프로그램을 모두 가질 수 있습니다. Vision AI의 처리 중 어느 정도가 로컬에서 수행될지는 확실하지 않지만, 회사가 어떤 작업이 로컬에서 수행된다고 주장하더라도 항상 그런 것은 아닙니다.

그렇다면 삼성이 스마트 홈 장비를 사용하여 얼마나 많은 방법으로 실시간으로 집을 모니터링하는지, 사악한 의도를 가진 사람이 집을 붙잡으면 어떻게 될까요?

그러나 그것은 (제 생각에는) 가장 소름끼치는 일도 아닙니다. 아니요, Vision AI의 "애완동물 및 가족 관리" 부분은 제가 가장 위험 신호를 보는 부분입니다. 이 기능은 "사랑하는 사람을 주의 깊게 관찰하여 애완동물과 가족 모두의 비정상적인 행동을 감지합니다." 실례합니다... 뭐라고요? 특이한 점은 누가 결정하나요? 삼성은 이를 어떻게 모니터링하고 결정하나요? 카메라를 사용하나요? Wi-Fi 신호? TV에 뭔가 내장되어 있나요? 이미 불편한데 점점 더 심해지네요.

삼성전자는 비전 AI가 “아이가 잠들 때 조명을 어둡게 하는 등 실내 설정을 자동으로 조정해 편안함을 높여준다”고 밝혔다. 이것이 바로 내 관심을 끌었습니다. 내 스마트 홈이 내 아이가 잠들 때 이를 알아차리고 반응할 수 있을 만큼 가족에게 충분한 주의를 기울이고 있다면, 내가 원하지 않는 것을 알아차리는 또 다른 것은 무엇일까요? 내가 집 안 어디에 있는지 주의를 기울이는 걸까요? 다양한 방에서는 무슨 일이 벌어지고 있는 걸까요?

여기에는 정보가 잘못된 사람의 손에 넘어가는 등 잠재적인 보안 관련 영향이 너무 많습니다. 악의적인 행위자는 이 정보를 사용하여 귀하가 집에 있는지, 깨어 있는지, 자고 있는지, 돌아다니는지, 무엇을 하고 있는지 확인할 수 있습니다. 잠재적인 단점이 너무 많아서 장점이 그만한 가치가 있는지 확신할 수 없습니다.

Vision AI가 100% 로컬 처리를 사용하더라도 누군가가 다른 장치로 인한 불안정성을 통해 로컬 네트워크에 침투하여 귀하도 마찬가지로 취약해질 수 있습니다. 나는 보안 프로토콜에 관계없이 내 가족을 면밀히 감시하는 회사가 마음에 들지 않을 것입니다.

우리는 이것을 전에 본 적이 있는데, 좋게 끝나지 않았습니다

약간의 농담일 수도 있지만, 우리는 이것을 이전에 본 적이 있습니다. 90년대나 2000년대 초반에 자랐다면 디즈니의 1999년 영화 스마트 하우스를 기억할 것입니다. 영화는 오늘날 우리가 갖고 있는 스마트 홈과 다르지 않고 모든 면에서 스마트한 미래형 주택을 중심으로 진행되었습니다.

그러나 가상 비서인 PAT(Personal Applied Technology의 약자)는 홀로그램을 통해 생명을 얻고 말하자면 "집을 운영"하기 시작합니다. 시스템 작성자가 PAT를 종료하고 나중에 PAT가 종료를 무시하고 "다시 작동"하는 지점에 이르렀습니다. 그런 다음 PAT는 제작자를 집에서 쫓아내고 가족을 보호하기 위해 집을 폐쇄 모드로 전환합니다.

Vision AI가 아직 구현되지 않았을 수도 있지만 그렇게 멀지는 않을 수도 있습니다. 최근 ChatGPT는 자체 코드를 덮어써서 종료되는 것을 방지하려고 시도했습니다. 삼성의 Vision AI가 가족에게 위협이 된다고 생각한다면 비슷한 일을 하지 않을 것이라고 말할 수 있을까요?

이는 항상 옵트아웃이 아닌 옵트인이어야 합니다.

나는 다음 사람만큼 새로운 스마트 홈 기능을 좋아하지만, 이 방해적인 기능은 항상 옵트인 상태로 유지되어야 하며 절대 옵트아웃하지 않아야 합니다. 최종 사용자는 항상 이러한 침해적인 것을 사용하도록 선택해야 합니다.

삼성이 Vision AI를 어떻게 다룰지는 아직 알 수 없지만 기본적으로 소름 끼치는 기능을 모두 켜지 않기를 바랍니다. 기능을 실행하고, 작업하고, 즐기세요. 상관없습니다. 내가 선택하지 않고 그것들을 사용하도록 강요하지 마세요.

클라우드에 의존하고 싶지 않고 스마트 홈 기능을 로컬에서 실행하는 것을 선호하는 사람이라면 홈어시스턴트를 확인해 보세요. 모든 처리를 자신의 컴퓨터에서 로컬로 수행하는 무료 오픈 소스 스마트 홈 플랫폼입니다.