Tech Patrol

Etiket: content credentials

  • # Adobe’den İçerik Üreticilere ve Yapay Zeka Sahtekarlığına Karşı Yeni Uygulama

    ## Adobe’den İçerik Üreticilere ve Yapay Zeka Sahtekarlığına Karşı Yeni Uygulama

    Adobe, içerik üreticilerinin çalışmalarının güvenilir bir şekilde kredilendirilmesini kolaylaştıran yeni bir araç geliştirdi. Bu araç, birinin ekran görüntüsünü alıp internette yeniden yayınlasa bile, üreticinin kim olduğunun doğrulanmasına yardımcı oluyor. Bugün halka açık beta sürümüyle başlatılan **İçerik Doğrulama (Content Authenticity)** web uygulaması, resimlere ve fotoğraflara görünmez, kurcalamaya dayanıklı meta veriler gömerek, kimin sahibi olduğunu belirlemeye yardımcı oluyor.

    İlk olarak Ekim ayında duyurulan bu yeni web uygulaması, Adobe’nin **İçerik Kimlik Bilgileri (Content Credentials)** atıf sistemini temel alıyor. Sanatçılar ve içerik üreticiler, sosyal medya hesaplarına, web sitelerine ve çevrimiçi olarak tanımlanmalarına yardımcı olacak diğer niteliklere bağlantılar da dahil olmak üzere bilgileri doğrudan çalışmalarına ekleyebiliyorlar. Uygulama ayrıca, resimlerin düzenleme geçmişini de izleyebiliyor ve yaratıcıların yapay zekanın (AI) bu resimler üzerinde eğitilmesini engellemesine yardımcı oluyor.

    Ek güvenlik için Adobe’nin İçerik Doğrulama uygulaması ve İçerik Kimlik Bilgileri’ne de gömülebilen Behance portföy platformu, içerik üreticilerinin kimliklerini **LinkedIn doğrulaması** yoluyla doğrulamalarına olanak tanıyor. Bu, kişilerin İçerik Kimlik Bilgilerini sahte çevrimiçi profillere bağlamasını zorlaştırıyor.

    Adobe’nin İçerik Doğrulama web uygulaması beta sürümünde olduğu için “şu anda ücretsiz”. Ancak, şirket genel olarak kullanıma sunulduğunda bunun değişip değişmeyeceğinden bahsetmedi. Tek ihtiyacınız olan bir Adobe hesabı (aktif bir Creative Cloud aboneliğinizin olması gerekmiyor).

    İçerik Kimlik Bilgilerini uygulamak istediğiniz resimlerin, Adobe’nin diğer uygulamalarından biri kullanılarak düzenlenmiş veya oluşturulmuş olması gerekmiyor. Photoshop gibi Adobe uygulamaları zaten İçerik Kimlik Bilgilerini resimlere gömebilirken, İçerik Doğrulama web uygulaması kullanıcılara hangi bilgilerin ekleneceği konusunda daha fazla kontrol sağlamakla kalmıyor, aynı zamanda tek tek etiketlemek yerine 50 adede kadar resmin toplu olarak etiketlenmesini sağlıyor. Şimdilik yalnızca JPEG ve PNG dosyaları destekleniyor, ancak Adobe video ve ses dahil olmak üzere daha büyük dosyalar ve ek medya için desteğin “yakında” geleceğini söylüyor.

    İçerik üreticiler, çalışmalarına yapay zeka geliştiricilerine yapay zeka eğitimi için kullanma izinlerinin olmadığını bildiren etiketler uygulamak için de uygulamayı kullanabiliyorlar. Bu, her yapay zeka sağlayıcısı ile ayrı ayrı devre dışı bırakmaktan çok daha verimli olsa da, bu etiketlerin her yapay zeka şirketi tarafından kabul edileceğinin veya onurlandırılacağının garantisi yok.

    Adobe, İçerik Kimlik Bilgileri tarafından desteklenen etkili, yaratıcı dostu devre dışı bırakma mekanizmaları oluşturmak için politika yapıcılar ve endüstri ortaklarıyla birlikte çalıştığını söylüyor. Şimdilik, kullanıcıların yapay zeka modellerinin üzerinde eğitilmesini önlemek için çalışmalarına uygulayabilecekleri birçok korumadan biri.

    İçerik Doğrulama uygulaması yalnızca yaratıcı profesyoneller için değil. Aynı zamanda, çevrimiçi buldukları resimlere İçerik Kimlik Bilgileri uygulanıp uygulanmadığını herkesin görmesini sağlıyor. Geçen yıl başlatılan Google Chrome için İçerik Doğrulama uzantısı gibi. Web uygulamasının inceleme aracı, resim barındırma platformları silse bile İçerik Kimlik Bilgilerini kurtaracak ve görüntüleyecektir. Ayrıca, varsa, düzenleme geçmişi de dahil olmak üzere, üretken yapay zeka araçlarının görüntüyü oluşturmak veya değiştirmek için kullanılıp kullanılmadığını ortaya çıkarabiliyor.

    Bonus olarak, Chrome uzantısı ve inceleme aracı üçüncü taraf desteğine dayanmıyor. Bu, resimlerin genellikle atıfta bulunulmadan paylaşıldığı platformlarda içeriği doğrulamayı kolaylaştırıyor. Giderek daha erişilebilir hale gelen yapay zeka düzenleme uygulamaları manipülasyonları tespit etmeyi zorlaştırdığından, Adobe’nin İçerik Doğrulama araçları bazı kişilerin inandırıcı çevrimiçi deepfake’lerle yanıltılmasını önlemeye de yardımcı olabilir.

  • # Adobe’s New Web App Empowers Creators, Fights AI Fakery with Content Authenticity

    ## Adobe’s New Web App Empowers Creators, Fights AI Fakery with Content Authenticity

    Adobe has launched a public beta of its Content Authenticity web app, a new tool designed to empower creators by providing verifiable attribution for their work and combating the spread of AI-generated misinformation. The app builds on Adobe’s existing Content Credentials system, allowing artists and photographers to embed tamper-resistant metadata directly into their images, making it easier to prove ownership and track editing history, even after screenshots and reposts proliferate across the web.

    The Content Authenticity web app, initially announced last year, allows creators to attach crucial information to their work, including links to social media accounts, websites, and other identifying attributes. This embedded data serves as a digital signature, providing clear and verifiable proof of authorship. The app also enables users to track the editing history of their images, offering valuable insight into the creative process and potential alterations.

    A key feature of the new app is its ability to tag images to signal to AI developers that the creator does not grant permission for their work to be used for AI training. While not a foolproof solution, this provides a more streamlined opt-out mechanism than individually contacting AI providers. Adobe is also collaborating with policymakers and industry partners to develop more robust, creator-friendly opt-out systems powered by Content Credentials.

    To bolster security, Adobe integrates LinkedIn verification with both the Content Authenticity app and its Behance portfolio platform. This integration aims to prevent bad actors from linking Content Credentials to fake online profiles, further strengthening the authenticity and reliability of the system. The article subtly notes the absence of X (formerly Twitter) in the LinkedIn verification process, highlighting the platform’s shift away from content authenticity initiatives under its new ownership.

    Currently available for free during its beta phase (requiring only a basic Adobe account), the Content Authenticity web app supports JPEG and PNG files, with plans to expand support to larger files and additional media types like video and audio. Notably, images don’t need to be created or edited within Adobe’s own suite of applications to benefit from Content Credentials.

    Beyond creator-focused features, the Content Authenticity app serves as a vital tool for anyone seeking to verify the authenticity of images found online. The app’s inspection tool, similar to the previously released Chrome extension, can recover and display Content Credentials even if image hosting platforms have stripped them. This allows users to examine an image’s editing history and determine if generative AI tools were used in its creation or manipulation.

    By making content authentication more accessible, Adobe’s new app and its accompanying tools can play a significant role in combating the spread of misinformation and deepfakes, particularly as AI-powered image manipulation becomes increasingly sophisticated and difficult to detect. The Content Authenticity web app offers a proactive approach to restoring trust and transparency in the digital landscape, empowering both creators and consumers in the fight against AI fakery.

  • # Adobe’dan Yapay Zeka Eğitiminde Kullanılan Görseller İçin “robots.txt” Tarzı Bir İşaretleyici Girişimi

    ## Adobe’dan Yapay Zeka Eğitiminde Kullanılan Görseller İçin “robots.txt” Tarzı Bir İşaretleyici Girişimi

    Adobe, yapay zeka (AI) modellerinin eğitiminde kullanılan görseller üzerinde içerik oluşturuculara daha fazla kontrol sağlama amacıyla yeni bir araç geliştirdi. Bu araç, tıpkı web sitelerinin arama motoru botlarına hangi sayfaları taramamaları gerektiğini bildiren “robots.txt” dosyasına benzer bir mantıkla çalışıyor.

    **İçerik Kimlik Bilgileri ve Yeni Web Aracı**

    Adobe, içerik kimlik bilgileri (content credentials) aracına eklediği bu yeni özellikle, görsellerin meta verilerine sahiplik ve orijinallik bilgilerinin eklenmesini sağlıyor. Bu, İçerik Kökeni ve Otantikliği için Koalisyonu (C2PA) standardının bir uygulaması olarak karşımıza çıkıyor. C2PA, içeriğin gerçekliğini doğrulayan bir standart olarak biliniyor.

    Şirket, “Adobe Content Authenticity App” adını verdiği yeni bir web aracıyla, kullanıcıların adlarını, sosyal medya hesaplarını ve diğer kimlik bilgilerini görsellerine eklemesine olanak tanıyor. Bu araç sayesinde kullanıcılar, aynı anda 50 adede kadar JPG veya PNG dosyasına kimlik bilgilerini uygulayabiliyor.

    **LinkedIn İş Birliği ile Doğrulama**

    Adobe, Microsoft’un sahip olduğu LinkedIn platformunun doğrulama programından yararlanarak kimlik bilgilerinin doğruluğunu artırmayı hedefliyor. Bu iş birliği sayesinde, bir görsele kimlik bilgilerini ekleyen kişinin LinkedIn’de doğrulanmış bir isme sahip olduğunu kanıtlamak mümkün hale geliyor.

    **Yapay Zeka Eğitimine Katılımı Engelleme İşareti**

    Yeni araç, kullanıcılara görsellerinin yapay zeka modeli eğitiminde kullanılmaması için bir işaretleme seçeneği de sunuyor. Ancak, Adobe henüz bu standardı benimsemesi için herhangi bir yapay zeka modeli geliştiricisiyle anlaşma imzalamadı. Şirket, önde gelen yapay zeka şirketlerini bu standardı kullanmaya ve saygı duymaya ikna etmek için görüşmelerin sürdüğünü belirtiyor.

    **Meta ile Yaşanan Etiketleme Sorunu**

    Geçtiğimiz yıl Meta’nın platformunda otomatik etiketleme özelliğini kullanıma sunması, fotoğrafçıların düzenlenmiş görsellerinin “AI ile Yapıldı” etiketiyle işaretlenmesine neden olmuştu. Bu durum, Meta ve Adobe’nin C2PA yönlendirme komitesinde yer almasına rağmen, farklı platformlarda uygulamanın farklılık gösterebileceğini ortaya koymuştu.

    **”İçerik Oluşturucular Kontrol İstiyor”**

    Adobe İçerik Orijinalliği Girişimi Kıdemli Direktörü Andy Parson, şirketin bu yeni aracı içerik oluşturucularla birlikte geliştirdiğini ve telif hakları ile yapay zeka eğitim verilerine ilişkin düzenlemelerin dünya genelinde farklılık göstermesi nedeniyle, içerik oluşturuculara yapay zeka platformları konusundaki niyetlerini belirtmeleri için bir yol sunmak istediklerini ifade ediyor.

    **Chrome Uzantısı ile Kimlik Doğrulama**

    Adobe ayrıca, kullanıcıların içerik kimlik bilgilerine sahip görselleri tespit etmelerine yardımcı olacak bir Chrome uzantısı da yayınlıyor. Bu uzantı, Instagram gibi standardı yerel olarak desteklemeyen platformlarda bile görsellerin kimlik bilgilerini kontrol etmeyi mümkün kılıyor.

    **”Sanatın Tanımına Karışmıyoruz”**

    Yapay zeka ve sanat arasındaki tartışmaların yoğunlaştığı bir dönemde, Adobe, C2PA’nın sanatın tanımına karışmadığını ancak içerik kimlik bilgilerinin sahipliği belirlemede önemli bir işaretleyici olabileceğine inanıyor.

    Adobe’nin bu yeni aracı şu an için görsellerle sınırlı olsa da, şirket gelecekte video ve ses dosyaları için de destek eklemeyi planlıyor. Bu girişim, içerik oluşturucuların yapay zeka eğitiminde kullanılan eserleri üzerindeki haklarını koruma yolunda atılmış önemli bir adım olarak değerlendiriliyor. Ancak, bu girişimin başarılı olması, yapay zeka şirketlerinin bu standardı benimsemesine ve saygı duymasına bağlı olacak.

  • # Adobe Aims to Give Creators Control Over Image Use in AI Training with “Robots.txt” Style Indicator

    ## Adobe Aims to Give Creators Control Over Image Use in AI Training with “Robots.txt” Style Indicator

    Adobe is taking steps to empower creators in the age of AI with a new tool designed to control how their images are used in the training of artificial intelligence models. Drawing inspiration from the familiar `robots.txt` file used by websites to manage crawler access, Adobe is introducing a similar indicator for images, integrated into their content credentials system.

    The core idea is to give artists and photographers more say over whether their work contributes to the vast datasets used to train AI. This initiative comes at a time when concerns about copyright, attribution, and the ethical use of creative content in AI training are increasingly prominent.

    The challenge, however, lies in convincing AI companies to respect this new standard. As the article points out, AI crawlers have a history of ignoring the `robots.txt` protocol, raising questions about the enforceability of Adobe’s approach.

    Content credentials, the foundation of this new tool, are essentially metadata embedded within a media file to verify its authenticity and ownership. Adobe is leveraging the Coalition for Content Provenance and Authenticity (C2PA), a broader industry standard, to implement these credentials.

    The company is releasing a new web application, the Adobe Content Authenticity App, which allows creators to attach these credentials to their image files, regardless of whether the images were created or edited using Adobe software. This app supports batch processing, allowing users to apply credentials to up to 50 JPG or PNG files at once. Critically, the app also includes a checkbox that signals to AI companies that the creator *does not* want the image used for training AI models.

    To further enhance the credibility of these credentials, Adobe is partnering with LinkedIn, leveraging the platform’s verification program. This integration allows creators to verify their identity and link their credentials to a confirmed name on LinkedIn. Support for linking Instagram and X (formerly Twitter) profiles is also included, although without direct platform verification.

    While the technical infrastructure is being built, the ultimate success of Adobe’s initiative hinges on widespread adoption by AI developers. Currently, Adobe is engaged in discussions with leading AI model creators, urging them to integrate and respect the new standard.

    “Content creators want a simple way to indicate that they don’t want their content to be used for gen AI training,” Andy Parson, Senior Director of the Content Authenticity Initiative at Adobe, told TechCrunch. “We have heard from small creators and agencies that they want more control over their creations [in terms of AI training on their content].”

    Adding to their suite of tools, Adobe is also releasing a Chrome extension that allows users to easily identify images with embedded content credentials while browsing the web. This extension displays a “CR” symbol on images that possess the credentials, even on platforms that don’t natively support the standard.

    The road ahead presents challenges, as evidenced by past controversies. For example, Meta’s labeling of images as “Made with AI” sparked backlash from photographers whose heavily edited images were incorrectly tagged. This incident underscored the complexities of implementing content authentication across different platforms.

    Looking ahead, Adobe plans to extend its content credential system to support video and audio files, further solidifying its commitment to empowering creators in the age of AI. The success of this initiative will depend on collaboration and a shared understanding between creators and AI developers, paving the way for a more transparent and ethical ecosystem.