Die KI-App Grok stand laut einem Medienbericht kurz vor dem Ausschluss aus Apples App Store, da sie die Erstellung von Deepfake-Nacktbildern, auch von Minderjährigen, ohne Zustimmung ermöglichte. Apple und Google sahen sich Vorwürfen ausgesetzt, bei finanzstarken Unternehmen wie dem von Elon Musk geführten xAI und dem sozialen Netzwerk X nachgiebiger zu sein. Apple bestätigte in einem Schreiben an US-Senatoren, dass es sowohl xAI als auch X kontaktiert und ein Ultimatum gestellt habe, woraufhin beide Unternehmen Schutzmechanismen zur Eindämmung der Deepfake-Erstellung implementierten. Trotz dieser Maßnahmen sollen die Schutzmechanismen laut NBC News weiterhin umgehbar sein, und es wird politisch über ein Verbot von KI-Systemen für die Erstellung von Deepfakes ohne Zustimmung diskutiert.