根据最新规定，AI生成合成内容必须添加标识。
2025年，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了《人工智能生成合成内容标识办法》(以下简称《标识办法》)，该办法自2025年9月1日起施行。《标识办法》明确规定，人工智能生成合成内容应当添加标识，以区分真实内容与AI生成内容，保障公众的知情权和选择权。
标识主要包括显式标识和隐式标识两种形式。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。例如，在文本内容中添加“AI生成”的文字提示，或在音频内容中添加语音提示等。隐式标识则是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识，如数字水印等。
服务提供者提供的生成合成服务，必须按照《标识办法》的要求对生成合成内容添加标识。违反规定的，将由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。
未经他人同意使用AI换脸技术可能构成侵权。
AI换脸技术是一种利用人工智能技术将某人的面部特征替换为另一人的面部特征的技术。然而，这种技术的使用必须遵守法律法规，尊重他人的合法权益。
根据《中华人民共和国民法典》的相关规定，自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。
AI换脸技术实质上是一种利用信息技术手段伪造他人肖像的行为。如果未经他人同意，擅自使用AI换脸技术将他人的面部特征替换为自己的或其他人的面部特征，并用于营利或其他目的，就可能构成对他人肖像权的侵犯。此外，如果换脸后的内容存在丑化、污损他人形象的情况，还可能构成对他人名誉权的侵犯。