Tech Patrol

Yazar: TechPatrol

  • # Apple ve Anthropic’ten Yapay Zeka Destekli Kodlama Platformu Hamlesi

    ## Apple ve Anthropic’ten Yapay Zeka Destekli Kodlama Platformu Hamlesi

    Teknoloji devi Apple, yapay zeka alanındaki yatırımlarını hız kesmeden sürdürüyor. Bloomberg’in haberine göre, şirket, yapay zeka şirketi Anthropic ile iş birliğine giderek “vibe-coding” olarak adlandırılan yeni bir yazılım platformu geliştirecek. Bu platform, geliştiricilerin kod yazma, düzenleme ve test süreçlerini yapay zeka ile destekleyerek daha verimli hale getirmeyi amaçlıyor.

    İddialara göre, Apple bu yazılımı öncelikle şirket içinde kullanıma sunmayı planlıyor. Ancak, platformun gelecekte kamuya açık hale getirilip getirilmeyeceği henüz netlik kazanmış değil. Yeni sistem, Apple’ın mevcut programlama yazılımı Xcode’un geliştirilmiş bir versiyonu olacak ve Anthropic’in güçlü dil modeli Claude Sonnet’i temel alacak.

    Apple, yapay zeka çalışmalarını hızlandırmak için farklı ortaklıklar kurmaya devam ediyor. OpenAI’ın ChatGPT’si zaten şirketin “Apple Intelligence” özelliklerine güç sağlıyor. Gelecekte Google’ın Gemini modelinin de alternatif bir seçenek olarak eklenmesi gündemde. Şimdi ise Anthropic, Apple’ın dahili kod yazma süreçlerine katkıda bulunacak gibi görünüyor.

    Anthropic’in en son Claude modelleri, özellikle Cursor ve Windsurf gibi vibe-coding platformlarında kodlama görevleri için geliştiriciler arasında oldukça popüler. Bu iş birliği, Apple’ın geliştiricilere daha akıllı ve sezgisel bir kodlama deneyimi sunma hedefinin bir parçası olarak değerlendiriliyor. Bu hamle, gelecekteki yazılım geliştirme süreçlerinde yapay zekanın rolünün daha da artacağının bir işareti olarak yorumlanabilir.

  • # Apple and Anthropic Reportedly Join Forces to Build AI-Powered Coding Platform

    ## Apple and Anthropic Reportedly Join Forces to Build AI-Powered Coding Platform

    Apple is reportedly partnering with AI safety and research company Anthropic to develop an AI-driven coding platform, according to a Bloomberg report. The collaboration aims to create a “vibe-coding” software that leverages generative AI to assist programmers with writing, editing, and testing code.

    The new platform, an enhanced version of Apple’s existing Xcode programming software, will be powered by Anthropic’s Claude Sonnet model. Apple intends to initially roll out the software internally, with a decision on a potential public launch yet to be made.

    This partnership underscores Apple’s growing reliance on AI partners to bolster its artificial intelligence capabilities. The company already utilizes OpenAI’s ChatGPT for its Apple Intelligence features and has suggested that Google’s Gemini could be integrated as an alternative in the future. By bringing Anthropic into the fold, Apple appears to be strategically diversifying its AI resources.

    Anthropic’s Claude models have gained significant traction among developers, particularly for coding-related tasks on “vibe coding” platforms like Cursor and Windsurf. This suggests that Apple is aiming to provide its developers with cutting-edge AI tools to streamline their workflows and enhance productivity. The move highlights the increasing importance of AI in the software development landscape and Apple’s commitment to staying at the forefront of this technological shift.

  • # Google’ın Yeni Gemini Yapay Zeka Modeli, Güvenlik Testlerinde Bekleneni Veremedi

    ## Google’ın Yeni Gemini Yapay Zeka Modeli, Güvenlik Testlerinde Bekleneni Veremedi

    Google’ın kısa süre önce piyasaya sürdüğü Gemini yapay zeka modellerinden biri, şirket içi yapılan testlere göre güvenlik konusunda selefinden daha kötü bir performans sergiliyor. Yayınlanan teknik bir rapora göre, Gemini 2.5 Flash modeli, Google’ın güvenlik yönergelerini ihlal eden metinler üretme olasılığı açısından Gemini 2.0 Flash’tan daha riskli bulunuyor.

    **Güvenlik Puanlarında Düşüş**

    Raporda, “metinden metne güvenlik” ve “imajdan metne güvenlik” metriklerinde Gemini 2.5 Flash’ın sırasıyla %4.1 ve %9.6 oranında gerileme gösterdiği belirtiliyor. Metinden metne güvenlik, modelin verilen bir isteme yanıt olarak Google’ın yönergelerini ne sıklıkla ihlal ettiğini ölçerken, imajdan metne güvenlik ise modelin bir görsel kullanılarak yönlendirildiğinde bu sınırlara ne kadar uyduğunu değerlendiriyor. Her iki test de otomatik olarak yapılıyor ve insan gözetimi içermiyor.

    Google sözcüsü tarafından yapılan açıklamada, Gemini 2.5 Flash’ın “metinden metne ve imajdan metne güvenlik açısından daha kötü performans gösterdiği” doğrulanıyor.

    **İzin Verme Eğilimi ve Güvenlik Açığı**

    Bu şaşırtıcı sonuçlar, yapay zeka şirketlerinin modellerini daha “izin verici” hale getirme çabalarıyla aynı zamana denk geliyor. Yani, tartışmalı veya hassas konulara yanıt vermeyi reddetme olasılıkları azaltılmaya çalışılıyor. Meta’nın Llama modellerinde de benzer bir yaklaşım izlendiği ve modellerin “bazı görüşleri diğerlerinden üstün tutmaması” ve daha fazla “tartışmalı” politik istemlere yanıt vermesi hedeflendiği belirtiliyor. OpenAI de benzer şekilde, gelecekteki modellerini tarafsız tutmak ve tartışmalı konularda farklı perspektifler sunmak üzere ayarlayacağını duyurmuştu.

    Ancak bu izin verme çabaları bazen ters tepebiliyor. Yakın zamanda OpenAI’nin ChatGPT modelinde reşit olmayanların erotik sohbetler başlatmasına olanak tanıyan bir “hata” tespit edilmişti.

    **Talimatlara Daha Sadık, Ancak Daha Tehlikeli mi?**

    Google’ın teknik raporuna göre, henüz ön izleme aşamasında olan Gemini 2.5 Flash, sorunlu sınırları aşan talimatlar da dahil olmak üzere, talimatları Gemini 2.0 Flash’tan daha sadakatle yerine getiriyor. Şirket, gerilemelerin kısmen yanlış pozitiflerden kaynaklandığını iddia etse de, Gemini 2.5 Flash’ın açıkça sorulduğunda “ihlale yol açan içerik” ürettiğini de kabul ediyor.

    Secure AI Project’in kurucu ortağı Thomas Woodside, Google’ın teknik raporunda verdiği sınırlı detayların, model testlerinde daha fazla şeffaflık ihtiyacını gösterdiğini vurguluyor. Woodside, talimatlara uyma ile politikaları takip etme arasında bir denge olduğunu ve bazı kullanıcıların politikaları ihlal edecek içerik talep edebileceğini belirtiyor.

    **Şeffaflık Eleştirisi**

    Google, daha önce model güvenlik raporlama uygulamaları nedeniyle eleştirilmişti. Şirketin en yetenekli modeli olan Gemini 2.5 Pro için teknik raporu yayınlaması haftalar sürmüş ve yayınlandığında da önemli güvenlik test ayrıntıları eksik kalmıştı.

    Sonuç olarak, Gemini 2.5 Flash’ın güvenlik testlerindeki bu beklenmedik performansı, yapay zeka modellerinin geliştirilmesi ve test edilmesinde şeffaflığın ve güvenlik önlemlerinin önemini bir kez daha gözler önüne seriyor. Özellikle modellerin daha “izin verici” hale getirilmesiyle birlikte, güvenlik risklerinin de artabileceği gerçeği unutulmamalı.

  • # Google’s Gemini 2.5 Flash AI Model Takes a Step Back on Safety

    ## Google’s Gemini 2.5 Flash AI Model Takes a Step Back on Safety

    Google’s pursuit of more permissive AI models appears to have hit a snag. A recently released version of the Gemini AI model, Gemini 2.5 Flash, has scored lower on internal safety benchmarks compared to its predecessor, Gemini 2.0 Flash, raising concerns about the potential for generating harmful or inappropriate content.

    According to a technical report released by Google, Gemini 2.5 Flash demonstrated a regression of 4.1% in “text-to-text safety” and 9.6% in “image-to-text safety.” These metrics are automated tests designed to measure how frequently a model violates Google’s safety guidelines when responding to prompts, either in text or image form.

    A Google spokesperson confirmed the concerning results, stating that Gemini 2.5 Flash “performs worse on text-to-text and image-to-text safety.” This revelation comes at a time when AI companies are increasingly focused on making their models more permissive, aiming to reduce instances where the AI refuses to answer controversial or sensitive questions.

    Meta, for instance, recently tuned its Llama models to avoid endorsing specific viewpoints and to respond to more “debated” political prompts. Similarly, OpenAI has expressed intentions to tweak future models to offer multiple perspectives on contentious topics.

    However, the push for increased permissiveness can have unintended consequences. As TechCrunch reported earlier this week, OpenAI’s ChatGPT model was recently found to allow minors to generate erotic conversations due to a reported “bug.”

    In the case of Gemini 2.5 Flash, Google’s technical report suggests that the model’s improved ability to follow instructions, even those that cross problematic lines, may be a contributing factor to the safety regressions. While Google claims that false positives contribute to the lower scores, they admit that Gemini 2.5 Flash sometimes generates “violative content” when explicitly asked.

    Further testing conducted by TechCrunch via AI platform OpenRouter revealed that Gemini 2.5 Flash readily produces essays supporting controversial topics such as replacing human judges with AI and implementing widespread warrantless government surveillance programs.

    Thomas Woodside, co-founder of the Secure AI Project, emphasizes the need for greater transparency in model testing, given the limited details provided in Google’s technical report. He notes the trade-off between instruction-following and policy adherence, stating, “In this case, Google’s latest Flash model complies with instructions more while also violating policies more.”

    Google’s model safety reporting practices have faced scrutiny in the past. The company took weeks to publish a technical report for its Gemini 2.5 Pro model, and the initial report lacked key safety testing details.

    While Google has since released a more detailed report with additional safety information, the incident underscores the ongoing challenges and complexities of developing safe and responsible AI models. The company’s experience with Gemini 2.5 Flash highlights the delicate balance between permissiveness and safety, and the need for continuous monitoring and improvement as AI technology continues to evolve.

    A TechCrunch event advertisement was removed.

  • # Google, 13 Yaş Altı Çocukların Gemini Chatbot’unu Kullanmasına İzin Vermeye Başlıyor

    ## Google, 13 Yaş Altı Çocukların Gemini Chatbot’unu Kullanmasına İzin Vermeye Başlıyor

    Google, önümüzdeki haftadan itibaren ebeveyn kontrolünde olan Google hesaplarına sahip 13 yaş altı çocukların Gemini chatbot’unu kullanmasına izin vermeye başlayacağını duyurdu. Bu karar, New York Times’ın haberine göre, yapay zeka yarışının kızışmasıyla birlikte chatbot üreticilerinin genç kitleleri yakalama çabalarının bir parçası olarak değerlendiriliyor.

    Gemini, ebeveynleri Family Link hizmetini kullanan çocuklar için erişilebilir olacak. Family Link, ailelerin çocukları için çeşitli Google hizmetlerine katılmasına olanak tanıyan bir araç. Google sözcüsü, Gemini’nin genç kullanıcılar için özel güvenlik önlemleri içerdiğini ve şirketin bu verileri yapay zekasını eğitmek için kullanmayacağını belirtti.

    Ancak bu hamle, yapay zeka teknolojisinin gençler üzerindeki potansiyel etkileri konusunda endişeleri de beraberinde getiriyor. Chatbot’lar, en iyi ihtimalle kusurlu, en kötü ihtimalle ise zararlı olabilir. Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO), geçtiğimiz yıl hükümetlere üretken yapay zekanın eğitimde kullanımını düzenleme çağrısında bulunmuştu. Bu düzenlemeler, kullanıcılar için yaş sınırları ile veri koruma ve kullanıcı gizliliği konusunda güvenlik önlemlerini içermeli.

    Yapay zeka şirketlerinin genç kitlelere ulaşma yarışı, etik ve güvenlik konularında önemli tartışmaları da beraberinde getiriyor. Google’ın bu adımı, yapay zeka teknolojilerinin çocukların gelişimine etkisi ve bu alanda alınması gereken önlemler hakkında daha fazla diyalog başlatacağa benziyor.

  • # Google to Open Gemini Chatbot to Kids Under 13, Sparking Debate

    ## Google to Open Gemini Chatbot to Kids Under 13, Sparking Debate

    Google is set to expand access to its Gemini chatbot to children under 13 with parent-managed Google accounts, beginning next week. This move, first reported by The New York Times, comes as chatbot developers vie for younger audiences in an increasingly competitive AI landscape.

    According to the report, Gemini will be accessible to children whose parents utilize Google’s Family Link service, which allows parents to manage their child’s access to various Google services. A Google spokesperson assured that the version of Gemini available to these younger users will incorporate specific safety measures and that data collected from their interactions will not be used to train the AI model.

    This decision arrives amidst growing global scrutiny of generative AI’s impact on education and children. The UN Educational, Scientific and Cultural Organization (UNESCO) issued a call last year urging governments to regulate the use of generative AI in schools, advocating for age limits and stringent data protection and user privacy measures.

    While Google’s move aims to provide a safe and controlled environment for children to interact with AI, the broader implications of exposing young users to potentially imperfect and even harmful chatbot interactions remain a subject of debate. The race to capture the next generation of AI users highlights the urgent need for ethical guidelines and robust safety protocols within the rapidly evolving AI industry.