Yazar: TechPatrol

  • # Google’ın Yeni Yapay Zeka Modeli Raporu Güvenlik Açısından Yetersiz Bulundu

    ## Google’ın Yeni Yapay Zeka Modeli Raporu Güvenlik Açısından Yetersiz Bulundu

    Google, en güçlü yapay zeka modeli olan Gemini 2.5 Pro’yu piyasaya sürdükten birkaç hafta sonra, modelin dahili güvenlik değerlendirmelerinin sonuçlarını içeren bir teknik rapor yayınladı. Ancak uzmanlar, raporun yeterince detaylı olmadığını ve modelin potansiyel risklerini belirlemeyi zorlaştırdığını belirtiyor.

    Teknik raporlar, şirketlerin yapay zeka sistemleri hakkında her zaman reklamını yapmadığı önemli bilgileri sunar. Bu raporlar, bağımsız araştırma ve güvenlik değerlendirmelerini desteklemek için yapılan iyi niyetli çabalar olarak kabul edilir.

    Google, güvenlik raporlaması konusunda rakiplerinden farklı bir yaklaşım izliyor ve teknik raporları yalnızca bir modelin “deneysel” aşamayı geçtiğini düşündüğünde yayınlıyor. Ayrıca, şirket tüm “tehlikeli yetenek” değerlendirmelerinin bulgularını bu raporlara dahil etmiyor ve bunları ayrı bir denetime saklıyor.

    TechCrunch’ın görüştüğü uzmanlar, Gemini 2.5 Pro raporunun Google’ın “Frontier Safety Framework (FSF)”ünü içermemesinden hayal kırıklığına uğradılar. Google, FSF’yi geçen yıl gelecekte “ciddi zararlara” neden olabilecek yapay zeka yeteneklerini belirleme çabası olarak tanıtmıştı.

    Yapay Zeka Politikası ve Strateji Enstitüsü’nün kurucu ortağı Peter Wildeford, raporun model kamuya sunulduktan haftalar sonra yayınlandığını ve asgari düzeyde bilgi içerdiğini belirtti. Wildeford, Google’ın taahhütlerini yerine getirip getirmediğini doğrulamak ve modellerinin güvenliğini değerlendirmenin bu nedenle mümkün olmadığını söyledi.

    Secure AI Project’in kurucu ortağı Thomas Woodside, Google’ın Gemini 2.5 Pro için bir rapor yayınlamasından memnun olsa da, şirketin zamanında ek güvenlik değerlendirmeleri sunma konusundaki kararlılığından emin değil. Woodside, Google’ın en son tehlikeli yetenek testlerinin sonuçlarını Haziran 2024’te, aynı yılın Şubat ayında duyurulan bir model için yayınladığını hatırlattı.

    Google’ın geçen hafta duyurduğu daha küçük ve daha verimli bir model olan Gemini 2.5 Flash için henüz bir rapor yayınlamaması güven vermiyor. Bir sözcü, Flash için bir raporun “yakında” geleceğini belirtti.

    Woodside, bu durumun Google’ın daha sık güncelleme yayınlamaya başlayacağına dair bir söz olduğunu umduğunu ve güncellemelerin henüz kamuya açıklanmamış modeller için de değerlendirme sonuçlarını içermesi gerektiğini, çünkü bu modellerin de ciddi riskler oluşturabileceğini söyledi.

    Google, modeller için standartlaştırılmış raporlar öneren ilk yapay zeka laboratuvarlarından biri olsa da, son zamanlarda şeffaflık konusunda yetersiz kalmakla suçlanan tek şirket değil. Meta da yeni Llama 4 açık modellerinin benzer şekilde yetersiz bir güvenlik değerlendirmesini yayınladı ve OpenAI, GPT-4.1 serisi için herhangi bir rapor yayınlamamayı tercih etti.

    Google’ın üzerinde, düzenleyicilere yapay zeka güvenliği testleri ve raporlamasında yüksek bir standartı koruyacağına dair verdiği güvenceler var. İki yıl önce Google, ABD hükümetine “kapsam dahilindeki” tüm “önemli” kamuya açık yapay zeka modelleri için güvenlik raporları yayınlayacağını söylemişti. Şirket daha sonra bu taahhüdünü diğer ülkelere de benzer taahhütlerle takip ederek, yapay zeka ürünleri etrafında “kamuya açık şeffaflık” sağlayacağını vaat etti.

    Demokrasi ve Teknoloji Merkezi’nde yapay zeka yönetişimi konusunda kıdemli danışman olan Kevin Bankston, aralıklı ve belirsiz raporlar trendini yapay zeka güvenliği konusunda “dibe doğru bir yarış” olarak nitelendirdi. Bankston, OpenAI gibi rakip laboratuvarların piyasaya sürmeden önce güvenlik test sürelerini aylardan günlere indirdiği haberleriyle birleştiğinde, Google’ın en iyi yapay zeka modeli için bu yetersiz belgeleme, şirketlerin modellerini piyasaya sürmek için yapay zeka güvenliği ve şeffaflığı konusunda dibe doğru bir yarışın üzücü bir hikayesini anlattığını söyledi.

    Google, teknik raporlarında ayrıntılı olarak belirtilmese de, modelleri piyasaya sürmeden önce güvenlik testleri ve “adversarial red teaming” yaptığını belirtiyor.

  • # Google’s Gemini 2.5 Pro Safety Report Under Fire for Lack of Transparency

    ## Google’s Gemini 2.5 Pro Safety Report Under Fire for Lack of Transparency

    Google’s release of its Gemini 2.5 Pro technical report, weeks after the AI model’s launch, has sparked criticism from experts who claim it lacks crucial safety details. The report, intended to showcase internal safety evaluations, is viewed as too sparse, making it difficult to assess the potential risks associated with the model.

    Technical reports are typically seen as a valuable resource, offering insights into AI models that companies might not otherwise publicize. These reports support independent research and safety assessments, fostering transparency within the AI community.

    Google’s approach differs from some competitors, as it only releases these reports after a model is deemed to have moved beyond the “experimental” stage. Furthermore, the company doesn’t include findings from all “dangerous capability” evaluations in these reports, reserving them for separate audits.

    However, several experts speaking with TechCrunch expressed disappointment with the Gemini 2.5 Pro report’s limited scope. Notably, the report fails to mention Google’s own Frontier Safety Framework (FSF), introduced last year to identify future AI capabilities with the potential for “severe harm.”

    Peter Wildeford, co-founder of the Institute for AI Policy and Strategy, stated that the report contains “minimal information” and was released “weeks after the model was already made available to the public.” He argues that this lack of transparency makes it “impossible to verify if Google is living up to its public commitments and thus impossible to assess the safety and security of their models.”

    Thomas Woodside, co-founder of the Secure AI Project, acknowledges the report’s existence but questions Google’s commitment to timely safety evaluations. He points out that the last time Google released results of dangerous capability tests was in June 2024, for a model announced months prior.

    Adding to the concerns, Google has yet to release a report for Gemini 2.5 Flash, a more efficient model announced just last week. A spokesperson has stated that a report for Flash is “coming soon.”

    Woodside hopes that this promise signals a shift towards “more frequent updates,” including “the results of evaluations for models that haven’t been publicly deployed yet.” He stresses that these pre-deployment evaluations are crucial since those models could also pose serious risks.

    Google isn’t alone in facing scrutiny. Meta’s Llama 4 safety evaluation has also been criticized for being “skimpy,” and OpenAI opted not to publish a report for its GPT-4.1 series.

    These instances raise concerns, particularly given Google’s past assurances to regulators to maintain high standards of AI safety testing and reporting. Two years ago, Google pledged to the U.S. government to publish safety reports for all “significant” public AI models “within scope,” and later made similar commitments to other countries.

    Kevin Bankston, a senior adviser on AI governance at the Center for Democracy and Technology, describes the trend of sporadic and vague reports as a “race to the bottom” on AI safety. He notes that this, combined with reports of shortened safety testing times at competing labs, paints a “troubling story of a race to the bottom on AI safety and transparency as companies rush their models to market.”

    Google has stated that, while not detailed in its technical reports, it does conduct safety testing and “adversarial red teaming” for models before release. However, the lack of comprehensive public documentation continues to fuel concerns about the responsible development and deployment of increasingly powerful AI systems.

  • # Eski Y Combinator Başkanı Geoff Ralston, Yeni Bir Yapay Zeka ‘Güvenlik’ Fonu Başlattı

    ## Eski Y Combinator Başkanı Geoff Ralston, Yeni Bir Yapay Zeka ‘Güvenlik’ Fonu Başlattı

    Girişimcilik dünyasının yakından tanıdığı isimlerden, Y Combinator’da uzun yıllar görev yapmış olan Geoff Ralston, Safe Artificial Intelligence Fund (SAIF) adını verdiği yeni bir yapay zeka (YZ) yatırım fonuyla geri dönüyor. Fonun ismi, amacını açıklamasının yanı sıra, kelime oyunuyla da dikkat çekiyor.

    Ralston, fonunun internet sitesinde belirttiği gibi, özellikle “YZ güvenliğini, güvenliğini ve sorumlu kullanımını geliştiren” girişimlere odaklanacak. 10 milyon dolarlık bir üst sınırla, her bir girişime 100.000 dolarlık SAFE (Simple Agreement for Future Equity – Gelecekteki Hisse Senedi için Basit Anlaşma) yatırımı yapmayı planlıyor. SAFE, Y Combinator tarafından geliştirilen ve “yatırımı şimdi yap, fiyatı sonra belirle” prensibine dayanan bir erken aşama yatırım aracı.

    Günümüzde birçok risk sermayesi şirketi (VC), YZ girişimlerine yatırım yapmaya istekli olsa da, Ralston’ın yaklaşımı YZ’nin güvenliğine odaklanmasıyla farklılaşıyor. Ralston, bu konseptin biraz geniş olduğunu kabul etmekle birlikte, amacının öncelikli hedefi güvenli YZ olan girişimleri desteklemek olduğunu vurguluyor.

    TechCrunch’a yaptığı açıklamada Ralston, “Günümüzde dünyadaki YZ projelerinin büyük çoğunluğu, teknolojiyi sorunları çözmek, verimliliği artırmak veya yeni yetenekler yaratmak için kullanıyor. Bunlar özünde güvensiz olmayabilir, ancak güvenlik öncelikli konuları değil” dedi. Ralston, “Benim amacım, birincil hedefi güvenli YZ olan (çok geniş bir şekilde tanımladığım) girişimlere yatırım yapmak” diye ekledi.

    Bu tanım, YZ’nin karar alma süreçlerini açıklığa kavuşturan veya YZ güvenliğini ölçen, YZ’nin güvenliğini artırmaya odaklanan girişimleri içeriyor. Ayrıca, fikri mülkiyeti koruyan, YZ’nin uyumluluk gereksinimlerine uymasını sağlayan, dezenformasyonla mücadele eden ve YZ tarafından oluşturulan saldırıları tespit eden ürünler de Ralston’ın odağında. Dahası, daha iyi YZ tahmin araçları ve şirket sırlarını dışarıya sızdırmayan YZ destekli iş müzakere araçları gibi, güvenliği göz önünde bulunduran fonksiyonel YZ araçlarına da yatırım yapmak istiyor.

    Bu tanım, birçok VC’nin peşinde olduğu YZ girişimlerinin bir listesi gibi görünse de, Ralston’ın desteklemeyeceği bazı alanlar da bulunuyor. Bunlardan biri, tamamen otonom silahlar.

    Ralston, “YZ’nin kesinlikle güvensiz olabilecek (olacak) kullanımları var: Biyo silahlar yaratmak için teknolojiyi kullanmak, insan müdahalesi olmadan konvansiyonel silahları yönetmek vb.” dedi. Hatta, YZ silahlarından gelen saldırıları tespit edebilecek veya önleyebilecek “silah güvenlik sistemlerini” finanse etmek istiyor.

    Bu yaklaşım, günümüzün savunma teknolojisi kurucuları ve VC’lerinin çoğundan farklı, aykırı bir görüş sunuyor. Daha önce TechCrunch’ın haber yaptığı gibi, YZ silahları geliştiren bazı kişiler, bu tür silahların insansız çalışmasının daha iyi olacağı fikrini giderek daha fazla dile getiriyor.

    Günümüzde YZ alanı VC’ler için oldukça kalabalık bir pazar. Ralston, bu noktada Y Combinator bağlantılarının kendisine bir avantaj sağlayacağını umuyor. Ralston, üç yıl başkanlık (yerini Garry Tan’e bıraktı) ve on yılı aşkın bir danışmanlık görevinin ardından 2022’de YC’den ayrılmıştı.

    Ralston, köklü girişim hızlandırma programında yaptığı gibi mentorluk sunmayı ve girişimlere YC’ye nasıl başvuracakları konusunda koçluk yapmayı planlıyor. Ayrıca, geniş yatırımcı ağına erişim sağlamalarına da yardımcı olmayı vaat ediyor.

    Ralston, fonun büyüklüğü, kaç girişimi desteklemeyi planladığı veya yatırımcılarının kim olduğu konusunda bilgi vermekten kaçındı.

  • # Geoff Ralston Bets on Responsible AI with New “SAIF” Fund

    ## Geoff Ralston Bets on Responsible AI with New “SAIF” Fund

    Geoff Ralston, former president of Y Combinator and a familiar face in the startup ecosystem, is diving back into the investment world with a focused mission: ensuring the safe and responsible development of artificial intelligence. Ralston announced the launch of his new venture, the Safe Artificial Intelligence Fund (SAIF), on Thursday. The fund’s name cleverly reflects its core thesis.

    SAIF aims to invest in startups dedicated to enhancing AI safety, security, and responsible deployment. According to the fund’s website, Ralston plans to deploy $100,000 checks using the SAFE (Simple Agreement for Future Equity) investment vehicle – a tool pioneered by Y Combinator. The fund will have a $10 million cap.

    While the AI investment landscape is crowded, Ralston’s focus distinguishes SAIF. He is specifically targeting startups whose primary objective is AI safety.

    “The vast majority of AI projects out in the world today are using the technology to solve problems or create efficiencies or create new capabilities. They are not necessarily intrinsically unsafe, but safety is not their primary concern,” Ralston told TechCrunch. “I intend to fund startups whose primary objective is safe AI — as I have (very broadly) defined it.”

    The fund will target a broad range of companies. This includes ventures working to improve AI transparency by clarifying AI decision-making processes and those developing benchmarks for AI safety. SAIF also seeks to invest in solutions that protect intellectual property, ensure AI compliance, combat disinformation, and detect AI-generated attacks. Furthermore, Ralston is interested in functional AI tools built with inherent safety features, like advanced AI forecasting platforms and AI-powered negotiation tools designed to prevent the inadvertent disclosure of confidential information.

    Ralston makes it clear that some AI applications are off-limits. Fully autonomous weapons are a prime example.

    “There are certainly uses of AI which would (will) be unsafe: using the technology to create bioweapons, to manage conventional weapons without a human in the loop, etc.,” he explained. He expressed interest in funding “weapon safety systems” capable of detecting and preventing AI weapon attacks. This stance contrasts with some viewpoints within the defense tech sector, where some advocate for autonomous AI weapon systems.

    Ralston hopes his experience at Y Combinator, where he served as president for three years and an advisor for over a decade before departing in 2022, will give him a competitive edge. He plans to mentor the startups he invests in, offering guidance similar to his time at the accelerator. He will also help them navigate the Y Combinator application process and leverage his extensive investor network.

    While Ralston has kept specific details about the fund’s size, the number of startups he intends to support, and the identities of his Limited Partner (LP) backers under wraps, his new fund signals a dedicated push towards a more responsible and secure AI future.

  • # ABD’li Tüketiciler Gözünü Çin’e Çevirdi: Taobao, ABD App Store’da İlk 5’e Girdi

    ## ABD’li Tüketiciler Gözünü Çin’e Çevirdi: Taobao, ABD App Store’da İlk 5’e Girdi

    ABD’de artan enflasyon ve lüks tüketim ürünlerindeki yüksek fiyatlar, tüketicileri alternatif arayışlara itiyor. Bu durumdan en çok faydalananlar ise Çin merkezli e-ticaret platformları oluyor. DHgate’in ardından, bir diğer Çinli alışveriş uygulaması Taobao da ABD App Store’da en çok indirilen ilk 5 uygulama arasına girmeyi başardı.

    Peki bu ani yükselişin arkasında ne yatıyor? Cevap TikTok’ta. Çinli üreticilerin ve ABD’li içerik üreticilerin paylaştığı videolar, lüks markaların ürünlerinin aslında Çin’de üretildiğini ve markalaştırıldıktan sonra yüksek fiyatlarla satıldığını ortaya koyuyor. Bu ifşaatlar, tüketicileri doğrudan Çinli üreticilerden alışveriş yapmaya yöneltti. DHgate ve Taobao gibi platformlar, lüks markaların “muadillerine” daha uygun fiyatlarla ulaşmak isteyenler için cazip bir seçenek haline geldi.

    Appfigures’in verilerine göre, Taobao’nun Nisan ayındaki indirme sayısı, bir önceki aya kıyasla %514 gibi çarpıcı bir artış göstererek yaklaşık 185.000’e ulaştı. Uygulama, sadece birkaç gün içinde iOS App Store’daki genel sıralamada 461. sıradan 5. sıraya yükseldi. Alışveriş uygulamaları arasında ise Walmart, Amazon, Shein ve Temu gibi devleri geride bırakarak 2. sıraya yerleşti.

    Bu yükseliş, ABD’li tüketicilerin artan tarifelerden ve popüler uygulamalardaki fiyat artışlarından duyduğu endişeyi de gözler önüne seriyor. Doğrudan üreticiden alışveriş yapmanın, ürünlerin genel maliyetini düşürebileceği düşüncesi, tüketicileri bu platformlara yönlendiriyor.

    Ancak bu durum, “alıcı dikkatli olmalı” ilkesini de beraberinde getiriyor. Kalite konusunda tutarsızlıklar yaşanabilir. Bu nedenle, kullanıcıların satıcı yorumlarını okuması ve diğer alıcıların ürün fotoğraflarını incelemesi öneriliyor.

    Sonuç olarak, Taobao’nun ABD App Store’da yakaladığı başarı, tüketicilerin değişen alışveriş alışkanlıklarının ve fiyat hassasiyetinin bir göstergesi. Çinli e-ticaret platformları, lüks tüketim ürünlerine daha uygun fiyatlarla ulaşmak isteyenler için cazip bir alternatif sunarken, tüketicilerin bilinçli alışveriş yapması ve satıcıları dikkatlice değerlendirmesi önem taşıyor.

  • # TikTok Trends Fuel Surge in US Downloads for Chinese Shopping Apps: Taobao Joins DHgate in App Store Top 5

    ## TikTok Trends Fuel Surge in US Downloads for Chinese Shopping Apps: Taobao Joins DHgate in App Store Top 5

    US consumers are increasingly turning to Chinese e-commerce apps like DHgate and Taobao, driven by a combination of rising prices, viral TikTok trends, and a desire to cut out the middleman in the luxury goods market. This shift has propelled Taobao into the Top 5 free apps on the US App Store, joining DHgate which recently achieved the No. 2 spot.

    The sudden surge in popularity for these platforms is largely attributed to TikTok videos originating from Chinese manufacturers. These videos claim that a significant portion of luxury goods – including clothing, handbags, shoes, and accessories – are initially produced in China. They allege that these items are then shipped to the brand’s home country, such as Italy or France, where they are repackaged and labeled before being sold at significantly higher prices.

    Following these revelations, both US and Chinese TikTok creators began highlighting DHgate and Taobao as direct avenues to purchase from these manufacturers, potentially bypassing the hefty markups imposed by luxury brands.

    This trend coincides with growing consumer apprehension over rising prices on other popular shopping apps like Shein and Temu. With tariff concerns already impacting pricing, the promise of cheaper alternatives has proven irresistible.

    Data from Appfigures reveals the impressive scale of Taobao’s recent growth. Estimated downloads for April reached approximately 185,000, marking a staggering 514% increase compared to the 30,000 downloads recorded during the same period last month. The most dramatic spike occurred over a single weekend, with installs increasing 5.7x between last Friday and Saturday.

    [Image: A chart illustrating Taobao’s daily US downloads on iOS]
    *(Image Credits: Appfigures)*

    The rapid rise in downloads is clearly reflected in Taobao’s App Store ranking. After entering the Top Overall ranks on the iOS App Store (excluding games) at No. 461 on Saturday, the app climbed to No. 188 by Sunday. By Thursday, Taobao had secured its place among the top 5. Further demonstrating its dominance in the e-commerce sector, Taobao also surpassed Walmart, Amazon, Shein, and Temu to become the No. 2 shopping app, with Alibaba.com also showing strong growth, now ranking No. 6.

    According to Appfigures, Taobao’s recent surge marks its first-ever appearance in the Top Overall charts on the U.S. App Store since January 1, 2017.

    While switching shopping apps won’t eliminate tariffs on Chinese imports, consumers seem to believe that buying directly from manufacturers will translate into lower overall costs. Others are simply seeking more affordable access to luxury-style items.

    However, it’s important to exercise caution. The quality of goods on these marketplaces can vary considerably. Buyers are advised to carefully review seller ratings and customer photos before making any purchases, reinforcing the mantra of “buyer beware.”