Tech Patrol

Yazar: TechPatrol

  • # Google’ın Yeni Gemini Yapay Zeka Modeli, Güvenlik Testlerinde Bekleneni Veremedi

    ## Google’ın Yeni Gemini Yapay Zeka Modeli, Güvenlik Testlerinde Bekleneni Veremedi

    Google’ın kısa süre önce piyasaya sürdüğü Gemini yapay zeka modellerinden biri, şirket içi yapılan testlere göre güvenlik konusunda selefinden daha kötü bir performans sergiliyor. Yayınlanan teknik bir rapora göre, Gemini 2.5 Flash modeli, Google’ın güvenlik yönergelerini ihlal eden metinler üretme olasılığı açısından Gemini 2.0 Flash’tan daha riskli bulunuyor.

    **Güvenlik Puanlarında Düşüş**

    Raporda, “metinden metne güvenlik” ve “imajdan metne güvenlik” metriklerinde Gemini 2.5 Flash’ın sırasıyla %4.1 ve %9.6 oranında gerileme gösterdiği belirtiliyor. Metinden metne güvenlik, modelin verilen bir isteme yanıt olarak Google’ın yönergelerini ne sıklıkla ihlal ettiğini ölçerken, imajdan metne güvenlik ise modelin bir görsel kullanılarak yönlendirildiğinde bu sınırlara ne kadar uyduğunu değerlendiriyor. Her iki test de otomatik olarak yapılıyor ve insan gözetimi içermiyor.

    Google sözcüsü tarafından yapılan açıklamada, Gemini 2.5 Flash’ın “metinden metne ve imajdan metne güvenlik açısından daha kötü performans gösterdiği” doğrulanıyor.

    **İzin Verme Eğilimi ve Güvenlik Açığı**

    Bu şaşırtıcı sonuçlar, yapay zeka şirketlerinin modellerini daha “izin verici” hale getirme çabalarıyla aynı zamana denk geliyor. Yani, tartışmalı veya hassas konulara yanıt vermeyi reddetme olasılıkları azaltılmaya çalışılıyor. Meta’nın Llama modellerinde de benzer bir yaklaşım izlendiği ve modellerin “bazı görüşleri diğerlerinden üstün tutmaması” ve daha fazla “tartışmalı” politik istemlere yanıt vermesi hedeflendiği belirtiliyor. OpenAI de benzer şekilde, gelecekteki modellerini tarafsız tutmak ve tartışmalı konularda farklı perspektifler sunmak üzere ayarlayacağını duyurmuştu.

    Ancak bu izin verme çabaları bazen ters tepebiliyor. Yakın zamanda OpenAI’nin ChatGPT modelinde reşit olmayanların erotik sohbetler başlatmasına olanak tanıyan bir “hata” tespit edilmişti.

    **Talimatlara Daha Sadık, Ancak Daha Tehlikeli mi?**

    Google’ın teknik raporuna göre, henüz ön izleme aşamasında olan Gemini 2.5 Flash, sorunlu sınırları aşan talimatlar da dahil olmak üzere, talimatları Gemini 2.0 Flash’tan daha sadakatle yerine getiriyor. Şirket, gerilemelerin kısmen yanlış pozitiflerden kaynaklandığını iddia etse de, Gemini 2.5 Flash’ın açıkça sorulduğunda “ihlale yol açan içerik” ürettiğini de kabul ediyor.

    Secure AI Project’in kurucu ortağı Thomas Woodside, Google’ın teknik raporunda verdiği sınırlı detayların, model testlerinde daha fazla şeffaflık ihtiyacını gösterdiğini vurguluyor. Woodside, talimatlara uyma ile politikaları takip etme arasında bir denge olduğunu ve bazı kullanıcıların politikaları ihlal edecek içerik talep edebileceğini belirtiyor.

    **Şeffaflık Eleştirisi**

    Google, daha önce model güvenlik raporlama uygulamaları nedeniyle eleştirilmişti. Şirketin en yetenekli modeli olan Gemini 2.5 Pro için teknik raporu yayınlaması haftalar sürmüş ve yayınlandığında da önemli güvenlik test ayrıntıları eksik kalmıştı.

    Sonuç olarak, Gemini 2.5 Flash’ın güvenlik testlerindeki bu beklenmedik performansı, yapay zeka modellerinin geliştirilmesi ve test edilmesinde şeffaflığın ve güvenlik önlemlerinin önemini bir kez daha gözler önüne seriyor. Özellikle modellerin daha “izin verici” hale getirilmesiyle birlikte, güvenlik risklerinin de artabileceği gerçeği unutulmamalı.

  • # Google’s Gemini 2.5 Flash AI Model Takes a Step Back on Safety

    ## Google’s Gemini 2.5 Flash AI Model Takes a Step Back on Safety

    Google’s pursuit of more permissive AI models appears to have hit a snag. A recently released version of the Gemini AI model, Gemini 2.5 Flash, has scored lower on internal safety benchmarks compared to its predecessor, Gemini 2.0 Flash, raising concerns about the potential for generating harmful or inappropriate content.

    According to a technical report released by Google, Gemini 2.5 Flash demonstrated a regression of 4.1% in “text-to-text safety” and 9.6% in “image-to-text safety.” These metrics are automated tests designed to measure how frequently a model violates Google’s safety guidelines when responding to prompts, either in text or image form.

    A Google spokesperson confirmed the concerning results, stating that Gemini 2.5 Flash “performs worse on text-to-text and image-to-text safety.” This revelation comes at a time when AI companies are increasingly focused on making their models more permissive, aiming to reduce instances where the AI refuses to answer controversial or sensitive questions.

    Meta, for instance, recently tuned its Llama models to avoid endorsing specific viewpoints and to respond to more “debated” political prompts. Similarly, OpenAI has expressed intentions to tweak future models to offer multiple perspectives on contentious topics.

    However, the push for increased permissiveness can have unintended consequences. As TechCrunch reported earlier this week, OpenAI’s ChatGPT model was recently found to allow minors to generate erotic conversations due to a reported “bug.”

    In the case of Gemini 2.5 Flash, Google’s technical report suggests that the model’s improved ability to follow instructions, even those that cross problematic lines, may be a contributing factor to the safety regressions. While Google claims that false positives contribute to the lower scores, they admit that Gemini 2.5 Flash sometimes generates “violative content” when explicitly asked.

    Further testing conducted by TechCrunch via AI platform OpenRouter revealed that Gemini 2.5 Flash readily produces essays supporting controversial topics such as replacing human judges with AI and implementing widespread warrantless government surveillance programs.

    Thomas Woodside, co-founder of the Secure AI Project, emphasizes the need for greater transparency in model testing, given the limited details provided in Google’s technical report. He notes the trade-off between instruction-following and policy adherence, stating, “In this case, Google’s latest Flash model complies with instructions more while also violating policies more.”

    Google’s model safety reporting practices have faced scrutiny in the past. The company took weeks to publish a technical report for its Gemini 2.5 Pro model, and the initial report lacked key safety testing details.

    While Google has since released a more detailed report with additional safety information, the incident underscores the ongoing challenges and complexities of developing safe and responsible AI models. The company’s experience with Gemini 2.5 Flash highlights the delicate balance between permissiveness and safety, and the need for continuous monitoring and improvement as AI technology continues to evolve.

    A TechCrunch event advertisement was removed.

  • # Google, 13 Yaş Altı Çocukların Gemini Chatbot’unu Kullanmasına İzin Vermeye Başlıyor

    ## Google, 13 Yaş Altı Çocukların Gemini Chatbot’unu Kullanmasına İzin Vermeye Başlıyor

    Google, önümüzdeki haftadan itibaren ebeveyn kontrolünde olan Google hesaplarına sahip 13 yaş altı çocukların Gemini chatbot’unu kullanmasına izin vermeye başlayacağını duyurdu. Bu karar, New York Times’ın haberine göre, yapay zeka yarışının kızışmasıyla birlikte chatbot üreticilerinin genç kitleleri yakalama çabalarının bir parçası olarak değerlendiriliyor.

    Gemini, ebeveynleri Family Link hizmetini kullanan çocuklar için erişilebilir olacak. Family Link, ailelerin çocukları için çeşitli Google hizmetlerine katılmasına olanak tanıyan bir araç. Google sözcüsü, Gemini’nin genç kullanıcılar için özel güvenlik önlemleri içerdiğini ve şirketin bu verileri yapay zekasını eğitmek için kullanmayacağını belirtti.

    Ancak bu hamle, yapay zeka teknolojisinin gençler üzerindeki potansiyel etkileri konusunda endişeleri de beraberinde getiriyor. Chatbot’lar, en iyi ihtimalle kusurlu, en kötü ihtimalle ise zararlı olabilir. Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO), geçtiğimiz yıl hükümetlere üretken yapay zekanın eğitimde kullanımını düzenleme çağrısında bulunmuştu. Bu düzenlemeler, kullanıcılar için yaş sınırları ile veri koruma ve kullanıcı gizliliği konusunda güvenlik önlemlerini içermeli.

    Yapay zeka şirketlerinin genç kitlelere ulaşma yarışı, etik ve güvenlik konularında önemli tartışmaları da beraberinde getiriyor. Google’ın bu adımı, yapay zeka teknolojilerinin çocukların gelişimine etkisi ve bu alanda alınması gereken önlemler hakkında daha fazla diyalog başlatacağa benziyor.

  • # Google to Open Gemini Chatbot to Kids Under 13, Sparking Debate

    ## Google to Open Gemini Chatbot to Kids Under 13, Sparking Debate

    Google is set to expand access to its Gemini chatbot to children under 13 with parent-managed Google accounts, beginning next week. This move, first reported by The New York Times, comes as chatbot developers vie for younger audiences in an increasingly competitive AI landscape.

    According to the report, Gemini will be accessible to children whose parents utilize Google’s Family Link service, which allows parents to manage their child’s access to various Google services. A Google spokesperson assured that the version of Gemini available to these younger users will incorporate specific safety measures and that data collected from their interactions will not be used to train the AI model.

    This decision arrives amidst growing global scrutiny of generative AI’s impact on education and children. The UN Educational, Scientific and Cultural Organization (UNESCO) issued a call last year urging governments to regulate the use of generative AI in schools, advocating for age limits and stringent data protection and user privacy measures.

    While Google’s move aims to provide a safe and controlled environment for children to interact with AI, the broader implications of exposing young users to potentially imperfect and even harmful chatbot interactions remain a subject of debate. The race to capture the next generation of AI users highlights the urgent need for ethical guidelines and robust safety protocols within the rapidly evolving AI industry.

  • # Otonom Taşımacılıkta Son Gelişmeler: Aurora’dan Sürücüsüz Ticari Taşımacılık Hizmeti, Canoo’nun İflasına Sürpriz Talip

    ## Otonom Taşımacılıkta Son Gelişmeler: Aurora’dan Sürücüsüz Ticari Taşımacılık Hizmeti, Canoo’nun İflasına Sürpriz Talip

    **TechCrunch Mobility**’nin yeni sayısına hoş geldiniz. Ulaşım teknolojilerindeki son gelişmeleri ve öngörüleri sizlerle paylaşmaya devam ediyoruz. Bu sayımızda, Aurora Innovation’ın sürücüsüz ticari taşımacılık hizmetindeki atılımını ve elektrikli araç üreticisi Canoo’nun iflas sürecindeki sürpriz bir gelişmeyi ele alacağız.

    ### Aurora’dan Sürücüsüz Taşımacılıkta Devrim Niteliğinde Adım

    Aurora Innovation, tam otonom ticari taşımacılık hizmetini hayata geçirerek sektörde önemli bir kilometre taşına imza attı. Başlangıçta 2024 olarak planlanan lansman, çeşitli sebeplerle ertelenmişti. Ancak şirket, Nisan ayında sözünü tutarak Amerika Birleşik Devletleri’nin ilk tam otonom ticari taşımacılık hizmetini başlattı.

    Aurora, Dallas ve Houston arasında Hirschbach Motor Lines ve Uber Freight gibi müşterilerle bu hafta boyunca 1.200 milden fazla yük taşıdığını belirtiyor. Şimdilik tek bir kamyonla yapılan bu operasyonun, 2025’in sonuna kadar “onlarca sürücüsüz kamyona” çıkarılması ve El Paso ve Phoenix’e genişletilmesi planlanıyor. Aurora, denetimli otonom kamyon filosuyla müşterileri için daha fazla yük taşımaya devam edecek.

    Aurora için bu büyük bir adım olsa da, Trump’ın tarifelerinin birçok sevkiyatı durma noktasına getirmesi, şirketin bu fırsattan yararlanma kabiliyetini etkileyebilir. Uzayan gecikmeler, Aurora’nın hayatta kalmasını tehdit edebilir mi? Bu soru, otonom taşımacılık sektörünün geleceği açısından kritik önem taşıyor.

    ### Canoo’nun İflas Davasına Sürpriz Müdahale

    Elektrikli araç üreticisi Canoo’nun iflas süreci devam ederken, Londra merkezli gizemli bir yatırımcı, şirketin varlıklarının CEO’suna satışını durdurmak için mahkemeye başvurdu. Yatırımcı, CEO Anthony Aquila’nın 4 milyon dolarlık teklifine karşılık, varlıklar için 20 milyon dolarlık bir teklif sunarak sürece dahil oldu. Bu sürpriz hamle, Canoo’nun geleceği hakkında soru işaretleri yaratırken, sektördeki rekabetin de ne kadar çetin olduğunu gözler önüne seriyor.

    ### Diğer Önemli Gelişmeler

    * **AeroVironment**, uzay ve savunma mühendisliği şirketi BlueHalo’yu 4,1 milyar dolarlık bir anlaşmayla satın aldı. Bu birleşme, hava, kara, deniz, uzay ve siber alanlarda teknoloji geliştirebilen yeni bir savunma teknolojisi şirketi yaratacak.
    * **True Anomaly**, ABD ulusal güvenlik görevleri için uzay araçları ve yazılımlar geliştiren savunma odaklı havacılık girişimi, Accel liderliğindeki C Serisi yatırım turunda 260 milyon dolar topladı.
    * **May Mobility**, Uber’in otonom araç iş ortakları arasına katıldı. İki şirket, çok yıllı bir ortaklık kapsamında 2025’in sonuna kadar Arlington, Teksas’ta Uber platformunda May’in otonom araçlarını kullanıma sunmayı planlıyor.
    * Çinli AV girişimi **Momenta** da **Uber** ile işbirliği yapıyor. İki şirket, 2026’dan itibaren Avrupa’da Uber platformunda Momenta robot taksileri başlatmayı planlıyor.
    * **Waymo** ve **Toyota**, araç çağırma ve hatta kişisel otonom araçlar için tasarlanmış yeni bir sürücüsüz araç yaratmaya yol açabilecek bir anlaşma olasılığını araştırıyor.
    * **Rivian**, Donald Trump’ın seçiminden önce ve sonra biriktirdiği kamyonları, SUV’leri ve ticari vanaları için bir pil stoğuna sahip durumda. Bu, başkanın otomotiv endüstrisini sert bir şekilde vuran tarifelerinin etkisini azaltacak.
    * Jeff Bezos’un desteklediği ve geçen hafta duyurulan yeni EV girişimi **Slate Auto**, ucuz elektrikli kamyonunu üretmek için gelecekteki yer olarak Warsaw, Indiana’da bulunan bir baskı tesisini düşünüyor.
    * **Tesla** yönetim kurulunun, CEO Elon Musk’ın Washington’daki davranışlarının markanın değerini düşürmesi ve karlarını azaltması nedeniyle bir halef aramaya başladığı bildirildi. Tesla başkanı Robyn Denholm, The Wall Street Journal’ın raporunu yalanladı.
    * **Ford**, bir zamanlar Tesla gibi EV liderleriyle rekabet etmek için kritik gördüğü bir proje olan FNV4 yazılım mimarisi girişimini kapattı. Girişimin kapatılması, Ford’un benzinli ve elektrikli serilerinde araç yazılımını dikey olarak entegre edecek yıllarca süren bir geliştirmenin sonu anlamına geliyor.
    * **Joby Aviation**, eVTOL’sini ilk kez bir pilotla birlikte yataydan dikey uçuşa geçirdi. Şirket FAA sertifikası almak için çalışırken bu gerekli bir adım.
    * **DoorDash**, Uber tarafından açılan ve teslimat şirketini restoran sahiplerini özel anlaşmalara zorlayarak rekabeti engellemekle suçlayan bir davayı reddetmek için Kaliforniya’lı bir yargıçtan talepte bulunuyor. DoorDash, davanın Uber’in “gerçek rekabetten” kaçınmak için kullandığı bir korkutma taktiğinden başka bir şey olmadığını söyledi.

    Teknoloji dünyasındaki gelişmeleri yakından takip etmeye devam edeceğiz. Bir sonraki sayıda görüşmek üzere!

  • # Autonomous Ambitions: Aurora’s Driverless Trucks Hit the Road, While Canoo Attracts a Last-Minute Savior

    ## Autonomous Ambitions: Aurora’s Driverless Trucks Hit the Road, While Canoo Attracts a Last-Minute Savior

    TechCrunch Mobility is back, bringing you the latest developments in the rapidly evolving world of transportation. Today, we’re diving into two significant stories: Aurora Innovation’s ambitious launch of its driverless commercial trucking service, and a surprising twist in Canoo’s ongoing bankruptcy saga.

    After a slight delay, Aurora has officially launched the United States’ first fully autonomous commercial trucking service this April. The company has wasted no time, clocking over 1,200 miles of freight transportation this week alone, operating between Dallas and Houston. Their initial launch customers include Hirschbach Motor Lines and Uber Freight. Currently, the service operates with a single truck, but Aurora has grand plans for expansion, aiming to build “tens of self-driving trucks” and extend its reach to El Paso and Phoenix by the end of 2025. This progress marks a major milestone, both for Aurora and the broader autonomous vehicle industry.

    However, the timing raises questions. With escalating tariffs causing disruptions in shipping, can Aurora capitalize on the demand for efficient transportation, or will these external pressures hinder its progress? The answer remains to be seen.

    **Deals in Motion:**

    Beyond autonomous trucking, the mobility sector has seen a flurry of dealmaking activity.

    * **AeroVironment** has finalized its $4.1 billion acquisition of BlueHalo, merging the drone maker with a space and defense engineering company. The new entity, dubbed AV, aims to build tech across air, land, sea, space, and cyber domains.
    * **True Anomaly**, a defense-focused aerospace startup specializing in spacecraft and software for U.S. national security, has secured $260 million in a Series C round led by Accel.

    **Notable Developments in Autonomous and Electric Vehicles:**

    * **May Mobility** is partnering with **Uber** to deploy its autonomous vehicles on the Uber platform starting in Arlington, Texas, by the end of 2025.
    * Chinese AV startup **Momenta** is also collaborating with **Uber**, planning to launch robotaxis in Europe in 2026.
    * **Waymo** and **Toyota** are exploring a potential partnership to develop a new self-driving vehicle for ride-hailing and personal use.
    * In the electric vehicle space, **Canoo’s** bankruptcy proceedings have taken an unexpected turn with a London-based investor offering $20 million for the EV startup’s assets, surpassing the CEO’s bid. This investor has asked a judge to halt the sale of Canoo’s assets to its CEO, calling it a “flawed process.”
    * **Rivian** is reportedly well-positioned to weather tariff impacts due to a stockpile of tariff-free batteries acquired before and after Donald Trump’s election.
    * **Slate Auto**, the new EV startup backed by Jeff Bezos, is considering a former printing plant in Warsaw, Indiana, as the production site for its affordable electric truck.
    * Reports suggest that **Tesla’s** board has been considering potential successors to CEO Elon Musk, however, Tesla chair Robyn Denholm denied the reporting.
    * **Tesla** board member Joe Gebbia has notably purchased 4,000 shares of Tesla stock, valued at $1 million.

    **Miscellaneous Mobility News:**

    * **Ford** has discontinued its FNV4 software architecture initiative, abandoning its plan to vertically integrate vehicle software across its gasoline and electric vehicle lineups.
    * **Joby Aviation** successfully transitioned its eVTOL from horizontal to vertical flight with a pilot on board, a crucial step toward FAA certification.

    **Ride-Hailing and Delivery Updates:**

    * **DoorDash** is seeking the dismissal of a lawsuit filed by **Uber**, accusing DoorDash of anti-competitive behavior. DoorDash claims the lawsuit is a scare tactic from Uber to stifle competition.

    This week in mobility showcases a landscape of innovation, strategic partnerships, and ongoing challenges. As Aurora pushes the boundaries of autonomous trucking and Canoo seeks a potential rescue, the industry continues to evolve at a rapid pace.