Google hat nun einen neuen, eigenen Crawler für seine KI Bard und Vertex AI. In der englischen Dokumentation ist er bereits aufgeführt und hört auf den Namen "Google-Extended"
Über diesen neuen Useragent / Bot kann man nun in der robots.txt steuern, ob die eigenen Inhalte für Bard zum Anlernen bzw. für die Datennutzung verwendet werden dürfen oder nicht.
Blockierungen einfach mit: