理论1点点｜何谓“大规模微型侵害”?

理论1点点｜何谓“大规模微型侵害”?

生成式AI可能引发大规模隐私或者个人信息泄露问题。大型生成式AI需要大量数据作为参数，而AI产品的提供者在训练AI产品时违规收集大量的个人信息，或者运用大量没有合法来源的信息训练AI产品，这就可能带来一些侵害隐私和个人信息的新形式。有研究发现，由于大模型收集大量个人信息和隐私，且模型越大，所搜集的信息和隐私越多，因此，不法行为人有可能通过攻击大规模语言模型，提取出训练数据中的核心隐私和敏感个人信息，从而导致个人信息、隐私的大规模泄露，形成了“大规模微型侵害”的现象。