Apple представила на WWDC24 волну функций искусственного интеллекта, обещая мощные инструменты для iPhone, iPad и Mac. Но может ли Apple действительно гарантировать конфиденциальность в мире искусственного интеллекта? Их решения для обработки данных на устройствах и частного облака впечатляют, но интеграция ChatGPT создает потенциальную лазейку.

Как Apple планирует сделать свой искусственный интеллект частным

Apple представила множество функций искусственного интеллекта на WWDC24, и они будут доступны на всех поддерживаемых компьютерах Mac, iPhone и iPad позднее в 2024 году. Однако искусственный интеллект и конфиденциальность не часто идут рука об руку. Несмотря на это, Apple взяла на себя смелые, но разумные обязательства гарантировать конфиденциальность.

Обработка на устройстве

Обычно операции ИИ требуют значительной вычислительной мощности — ресурса, которого не хватает большинству стандартных телефонов и ноутбуков. Однако с появлением процессоров Apple все компьютеры Mac, iPhone и iPad, оснащенные чипами семейства M или A17 Pro (и более поздними версиями), будут способны локально выполнять большинство генеративных моделей искусственного интеллекта Apple, включая языковую модель Apple.

Apple уже некоторое время разрабатывает собственный Apple Neural Engine (ANE) для машинного обучения и обработки ИИ. С годами он стал более эффективным в обработке запросов ИИ, не оставляя их полностью на центральном или графическом процессоре. Большинство моделей искусственного интеллекта Apple действительно будут работать в автономном режиме и обеспечивать конфиденциальность.

Частные облачные вычисления (PCC)

Однако ваше устройство Apple может быть неспособно обрабатывать некоторые запросы AI локально. Хотя Apple заявила об этом на WWDC24, она не уточнила и не привела примеров того, какие запросы будут слишком большими для локальных автономных процессоров. Примеры являются предметом догадок, но Apple говорит о «сложных запросах», которые в противном случае могли бы привести к сбою в работе вашего устройства.

Решение Apple — Private Cloud Compute (PCC), облачный процессор искусственного интеллекта, созданный на основе специального процессора Apple. Он уделяет большое внимание конфиденциальности и прозрачности и имеет собственный Secure Enclave, такой же, как тот, который защищает ваше устройство Apple. Когда вы используете PCC, ваши запросы ИИ сразу удаляются после обработки, и никто, включая Apple, не может получить доступ к данным через бэкдор. Для дальнейшего укрепления доверия Apple предлагает проверяемую прозрачность, позволяя сторонним исследователям безопасности проверять программное обеспечение, работающее на узлах PCC.

ChatGPT представляет собой основной риск для конфиденциальности.

Обработка на устройстве и PCC — отличные средства обеспечения конфиденциальности, но есть еще один аспект Apple Intelligence, который вызывает сомнения: ChatGPT. Для тех, кто не знает, Apple планирует интегрировать ChatGPT в свои возможности искусственного интеллекта, включая Siri. Эти приложения искусственного интеллекта будут использовать более широкую базу знаний ChatGPT и использовать его возможности обработки изображений.

Честно говоря, Apple приняла некоторые меры, чтобы гарантировать вашу конфиденциальность при использовании ChatGPT. Например, когда вы делаете запрос к OpenAI, ваше устройство скроет ваш IP-адрес, и профиль, хранящий информацию о вас, не будет создан. Кроме того, для всех запросов ChatGPT требуется предварительное разрешение от вас, и вы должны давать разрешение каждый раз.

Несмотря на утверждения Илона Маска об обратном, OpenAI не может получить доступ ко всем данным на вашем устройстве; ChatGPT может обрабатывать только информацию, представленную в его подсказках.

Однако самые мощные функции ChatGPT скрываются за платной подпиской, и вам придется подключиться к своей премиальной учетной записи, чтобы ими воспользоваться. Однако при этом на вас будет распространяться политика конфиденциальности OpenAI, которая, мягко говоря, не такая щедрая, как у Apple. Политика конфиденциальности OpenAI позволяет собирать личную информацию, регистрировать использование, обучать модели на основе личной информации, передавать ваши данные третьим лицам и многое другое. Вы можете просмотреть его на сайте OpenAI.

Хотя существуют способы отказаться от некоторых нарушений конфиденциальности ChatGPT, большинство решений являются окольными, и OpenAI может легко их обойти. Также кажется, что избежать ChatGPT в Apple Intelligence (особенно в macOS) будет сложно, если не невозможно. В зависимости от того, как вы используете Siri или Compose, вы можете сильно полагаться на ChatGPT, оставляя большую часть своих данных в руках OpenAI.