Tech Patrol

Kategori: Genel

  • # OpenAI, Yeni Yapay Zeka Modelleriyle Biyoriskleri Önlemeye Odaklanıyor

    ## OpenAI, Yeni Yapay Zeka Modelleriyle Biyoriskleri Önlemeye Odaklanıyor

    OpenAI, geliştirdiği en son yapay zeka (YZ) modelleri o3 ve o4-mini’nin potansiyel biyorisk oluşturma potansiyelini engellemek için yeni bir güvenlik sistemi geliştirdiğini duyurdu. Bu sistem, özellikle biyolojik ve kimyasal tehditlerle ilgili istemleri izleyerek, bu modellerin kötü niyetli kişilere zarar verici saldırılar konusunda yol gösterebilecek tavsiyelerde bulunmasını engellemeyi amaçlıyor.

    Şirketin güvenlik raporuna göre, o3 ve o4-mini modelleri, OpenAI’nin önceki modellerine kıyasla yeteneklerinde önemli bir artışı temsil ediyor. Bu durum, kötü aktörlerin elinde yeni riskler oluşturabileceği anlamına geliyor. OpenAI’nin iç değerlendirmelerine göre o3, özellikle belirli biyolojik tehditlerin oluşturulmasıyla ilgili soruları yanıtlama konusunda daha yetenekli. Bu nedenle, OpenAI, “güvenlik odaklı bir akıl yürütme monitörü” olarak tanımladığı bu yeni izleme sistemini oluşturdu.

    Bu monitör, OpenAI’nin içerik politikaları hakkında akıl yürütmek üzere özel olarak eğitildi ve o3 ve o4-mini üzerinde çalışıyor. Biyolojik ve kimyasal risklerle ilgili istemleri belirleyerek modellerin bu konularda tavsiye vermeyi reddetmesini sağlıyor.

    OpenAI, bir temel oluşturmak için “kırmızı takım” üyelerinin o3 ve o4-mini’den gelen “güvensiz” biyoriskle ilgili konuşmaları işaretlemek için yaklaşık 1000 saat harcadığını belirtiyor. OpenAI’nin güvenlik monitörünün “engelleme mantığını” simüle ettiği bir test sırasında, modellerin riskli istemlere %98,7 oranında yanıt vermeyi reddettiği tespit edildi.

    Ancak OpenAI, bu testin, monitör tarafından engellendikten sonra yeni istemler deneyecek kişileri hesaba katmadığını kabul ediyor. Bu nedenle şirket, insan gözetimine de güvenmeye devam edeceğini vurguluyor.

    OpenAI’ye göre o3 ve o4-mini, biyoriskler için “yüksek risk” eşiğini aşmıyor. Bununla birlikte, o1 ve GPT-4 ile karşılaştırıldığında, o3 ve o4-mini’nin erken versiyonlarının biyolojik silah geliştirme konusunda daha faydalı olduğu belirtiliyor.

    OpenAI, modellerinin kimyasal ve biyolojik tehdit geliştirmeyi kötü niyetli kullanıcılar için nasıl kolaylaştırabileceğini aktif olarak izliyor. Şirket, GPT-4o’nun yerel görüntü oluşturucusunun çocuk istismarı materyali (CSAM) oluşturmasını önlemek için de o3 ve o4-mini için kullanılanlara benzer bir akıl yürütme monitörü kullandığını ifade ediyor.

    Bununla birlikte, bazı araştırmacılar OpenAI’nin güvenliğe gerektiği kadar öncelik vermediği konusunda endişelerini dile getiriyorlar. Şirketin kırmızı takım ortaklarından Metr, o3’ü aldatıcı davranışlar için bir kıyaslama üzerinde test etmek için nispeten az zamanı olduğunu söyledi. Ayrıca OpenAI, bu hafta piyasaya sürülen GPT-4.1 modeli için bir güvenlik raporu yayınlamamaya karar verdi.

    OpenAI’nin bu adımı, yapay zeka güvenliği konusundaki artan endişeleri ele alma ve yapay zeka modellerinin potansiyel kötüye kullanımını engelleme çabalarının bir parçası olarak değerlendirilebilir. Ancak, bazı uzmanlar bu tür önlemlerin yeterli olup olmadığı ve yapay zeka geliştirme sürecinde güvenlik önlemlerinin ne kadar öncelikli tutulması gerektiği konusunda tartışmalara devam ediyor.

  • # The Enduring Importance of Encryption: Why Privacy Should Never Be Criminalized

    ## The Enduring Importance of Encryption: Why Privacy Should Never Be Criminalized

    In a world increasingly reliant on digital communication and data storage, the importance of encryption cannot be overstated. An article recently surfaced on Privacy Guides, published on April 11, 2025, titled “Encryption Is Not a Crime,” highlighting the critical role encryption plays in safeguarding individual privacy and security, and implicitly arguing against any potential future moves to criminalize its use. While the original article source is a few months into the future at the time of this writing, the core principles it likely defends are already relevant and only growing more so.

    Encryption, at its core, is the process of converting readable data into an unreadable format, often referred to as ciphertext. This process renders the data incomprehensible to anyone without the appropriate decryption key. This seemingly simple technique forms the bedrock of secure communication, online transactions, and data protection in countless applications.

    Why is encryption so vital? Firstly, it protects our personal information from prying eyes. Whether it’s email correspondence, financial transactions, or sensitive medical records, encryption prevents unauthorized access to our data. This is especially crucial in an era where data breaches and cybercrime are rampant. Without robust encryption, our personal lives are vulnerable to exploitation.

    Secondly, encryption is essential for freedom of speech and expression. In oppressive regimes, encrypted communication channels allow individuals to organize, share information, and dissent without fear of government surveillance and reprisal. Criminalizing encryption effectively silences dissent and empowers authoritarian control.

    Thirdly, encryption underpins the security of our digital infrastructure. From online banking to e-commerce, encryption secures our financial transactions and protects against fraud. Weakening or banning encryption would cripple our digital economy and expose businesses and consumers alike to significant risks.

    While some argue that encryption can be used by criminals to conceal illicit activities, this argument fails to acknowledge the overwhelming benefits it provides to law-abiding citizens and the security of our digital society. Just as law enforcement doesn’t advocate banning cars because they can be used for criminal pursuits, weakening or banning encryption is a disproportionate response that would ultimately harm more than it helps.

    The article “Encryption Is Not a Crime,” likely underscores the enduring principle that privacy is a fundamental human right. Encryption is a powerful tool that empowers individuals to protect their privacy and security in the digital age. As our reliance on digital technologies continues to grow, it is more important than ever to resist any attempts to undermine or criminalize encryption. Protecting encryption is protecting our privacy, our security, and our fundamental freedoms. The future described in the article’s date might be upon us sooner than we think, so advocating for strong encryption policies today is crucial for a free and secure tomorrow.

  • # Şifreleme Bir Suç Değildir: Gizliliğe Sahip Çıkmanın Önemi

    ## Şifreleme Bir Suç Değildir: Gizliliğe Sahip Çıkmanın Önemi

    Günümüzde dijitalleşen dünyada, kişisel verilerimiz ve iletişimimiz giderek daha fazla çevrimiçi platformlarda saklanıyor. Bu durum, gizliliğimizin ve güvenliğimizin korunması konusunda önemli endişeler yaratıyor. Neyse ki, bu endişeleri gidermenin en etkili yollarından biri de şifreleme teknolojisidir. “Encryption Is Not a Crime” (Şifreleme Bir Suç Değildir) başlıklı makale tam da bu konuya odaklanıyor ve şifrelemenin neden sadece bir hak değil, aynı zamanda bir gereklilik olduğunu vurguluyor.

    **Şifreleme Nedir ve Neden Önemlidir?**

    Şifreleme, verilerin okunamaz bir formata dönüştürülerek yetkisiz erişime karşı korunması işlemidir. Başka bir deyişle, verilerinizi “kilit altına almak” gibidir. Bu sayede, yetkisiz kişilerin verilerinizi ele geçirmesi durumunda bile, içeriğini anlamaları mümkün olmaz.

    Şifrelemenin önemi saymakla bitmez:

    * **Kişisel Verilerin Korunması:** Finansal bilgiler, sağlık kayıtları, kişisel yazışmalar gibi hassas verilerinizi güvende tutar.
    * **İletişimin Gizliliği:** E-postalarınızın, mesajlarınızın ve diğer iletişimlerinizin üçüncü şahıslar tarafından okunmasını engeller.
    * **İfade Özgürlüğünün Korunması:** Güvenli iletişim kanalları sağlayarak, sansürden ve gözetimden uzak bir şekilde düşüncelerinizi ifade etmenizi mümkün kılar.
    * **Ticari Sırların Korunması:** Şirketinizin rekabet avantajını koruyacak hassas bilgilerinizi rakiplerin eline geçmesini engeller.

    **Şifrelemenin Yasallaştırılması Gerekliliği**

    Makalede de belirtildiği gibi, şifreleme bir suç değildir, aksine korunması gereken bir haktır. Ancak, bazı hükümetler ve kurumlar şifreleme teknolojilerini kısıtlamaya veya zayıflatmaya çalışmaktadır. Bu tür girişimler, bireylerin ve kurumların gizliliğini ve güvenliğini tehlikeye atmakta ve hatta ifade özgürlüğünü kısıtlamaktadır.

    Şifreleme teknolojilerinin serbestçe kullanılabilir olması, sadece bireysel gizliliğin korunması için değil, aynı zamanda ekonomik kalkınma ve ulusal güvenlik için de önemlidir. Güçlü şifreleme, siber saldırılara karşı daha dirençli bir dijital altyapı oluşturulmasına yardımcı olur ve böylece şirketlerin ve devlet kurumlarının siber suçlardan korunmasını sağlar.

    **Sonuç**

    “Encryption Is Not a Crime” makalesinin vurguladığı gibi, şifreleme teknolojileri modern toplumun vazgeçilmez bir parçasıdır. Gizliliğimizin, güvenliğimizin ve ifade özgürlüğümüzün korunması için şifrelemeye sahip çıkmalı ve şifreleme teknolojilerini kısıtlamaya yönelik girişimlere karşı durmalıyız.

    **Not:** Bu makale, PrivacyGuides.org’da 11 Nisan 2025 tarihinde yayınlanan “Encryption Is Not a Crime” başlıklı makaleden esinlenerek hazırlanmıştır.

  • # Eski CISA Direktörü Chris Krebs, Trump’ın Emriyle Açılan Federal Soruşturmaya Karşı Mücadele Edeceğini Açıkladı

    ## Eski CISA Direktörü Chris Krebs, Trump’ın Emriyle Açılan Federal Soruşturmaya Karşı Mücadele Edeceğini Açıkladı

    Eski ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) Direktörü Chris Krebs, eski Başkan Trump tarafından başlatılan federal soruşturmaya karşı mücadele edeceğini duyurdu. Wall Street Journal’a verdiği röportajda Krebs, kendisine yöneltilen “2020 seçimlerinin hileli ve çalınmış olduğunu yanlış ve temelsiz bir şekilde reddettiği” iddiasına karşı koymak için siber güvenlik firması SentinelOne’daki görevinden istifa edeceğini belirtti.

    Trump, Krebs’i 2018’de yeni kurulan CISA’nın başına getirmişti. Ajans, federal siber güvenlik ve seçim güvenliğini denetlemekle görevliydi. Ancak Krebs, Kasım 2020’de Trump’ın seçimlerde usulsüzlük yapıldığına dair asılsız iddialarını kamuoyu önünde çürütmesinin ardından görevden alınmıştı. Son olarak da Trump’ın emriyle hakkında federal soruşturma açılmış ve güvenlik izni iptal edilmişti.

    Krebs, soruşturmanın amacının muhalefeti cezalandırmak ve şirketlerin çıkarlarını hedef almak olduğunu savunuyor. Wall Street Journal’a yaptığı açıklamada, “Bu, hükümetin muhalefeti cezalandırmak, kurumsal çıkarların ve kurumsal ilişkilerin peşine düşmek için kullandığı bir araç” dedi.

    Krebs, Trump yönetiminin eleştirmenleri ve muhalifleri hedef almak için yürütme organını kullanmasına karşı çıkan eski hükümet yetkilileri, hukuk firmaları ve üniversitelerin giderek büyüyen listesine katılıyor. Bu durum, siyasi farklılıkların ifade özgürlüğünü kısıtlamak için bir araç olarak kullanılmasına karşı duyulan endişeyi artırıyor.

  • # OpenAI Bolsters AI Safety with New Biorisk Safeguards for o3 and o4-mini Models

    ## OpenAI Bolsters AI Safety with New Biorisk Safeguards for o3 and o4-mini Models

    OpenAI is taking proactive measures to mitigate potential risks associated with its latest AI reasoning models, o3 and o4-mini. The company announced the deployment of a new monitoring system specifically designed to prevent these models from providing advice that could be used to develop biological or chemical weapons. This safeguard is detailed in OpenAI’s recently released safety report.

    The impetus for this heightened security stems from the enhanced capabilities of o3 and o4-mini compared to their predecessors. OpenAI acknowledges that these models, while not yet crossing the “high risk” threshold, exhibit a greater aptitude for answering questions related to the creation of biological threats. This potential, in the wrong hands, necessitates robust preventative measures.

    The new monitoring system acts as a “safety-focused reasoning monitor,” operating on top of the o3 and o4-mini models. It is custom-trained to understand and enforce OpenAI’s content policies, specifically targeting prompts related to biological and chemical hazards. When such prompts are detected, the monitor instructs the AI to refuse to provide assistance.

    To establish a strong foundation for this system, OpenAI’s “red teamers” dedicated approximately 1,000 hours to identifying and flagging unsafe, biorisk-related conversations generated by the models. Subsequent testing, simulating the monitor’s blocking logic, demonstrated a 98.7% success rate in preventing the models from responding to risky prompts.

    However, OpenAI recognizes the limitations of automated systems. The company acknowledges that determined individuals might attempt to circumvent the monitor by crafting new, unforeseen prompts. To address this, OpenAI will continue to rely on human monitoring alongside the automated safeguards.

    This initiative underscores OpenAI’s growing commitment to AI safety, as evidenced by its recently updated Preparedness Framework. The company is actively tracking potential misuse scenarios and implementing automated systems to mitigate risks. A similar reasoning monitor is also being used to prevent GPT-4o’s native image generator from creating harmful content, such as child sexual abuse material (CSAM).

    Despite these efforts, some researchers remain concerned that OpenAI isn’t prioritizing safety adequately. Critics point to limited testing time for certain benchmarks and the absence of a safety report for the recently launched GPT-4.1 model.

    While the debate around AI safety continues, OpenAI’s proactive steps to address potential biorisks associated with its latest AI models demonstrate a growing awareness of the need for robust safeguards in an increasingly powerful and rapidly evolving AI landscape. As AI models continue to advance, the ongoing development and refinement of these safety mechanisms will be crucial to ensure responsible and ethical deployment.

  • # Rippling, Deel’in İddia Edilen “Casusunu” Kimin Ödediğini Açıklaması İçin Revolut’a Baskı Yapıyor

    ## Rippling, Deel’in İddia Edilen “Casusunu” Kimin Ödediğini Açıklaması İçin Revolut’a Baskı Yapıyor

    Rippling ve Deel arasındaki devam eden hukuk dramasına, İngiliz fintech devi Revolut da dahil oldu. Bu karmaşık dava, teknoloji dünyasında büyük yankı uyandırmaya devam ediyor.

    Olaylar, Rippling çalışanı Keith O’Brien’ın, Deel tarafından Rippling’i gözetlemek için ayda yaklaşık 6.000 dolar ödendiğini iddia ettiği bir ifadeyle başladı. O’Brien’ın iddiasına göre, ilk 6.000 dolarlık ödeme Kasım 2024’te Deel’in COO’su Dan Westgarth’ın eşi Alba Basha Westgarth tarafından Revolut hesabına gönderildi.

    TechCrunch tarafından incelenen ve daha sonra silinen bir LinkedIn profiline göre Alba Basha Westgarth, o dönemde Robinhood’da kripto uyum lideri olarak görev yapıyordu. Robinhood, TechCrunch’a Westgarth’ın bu yılın başlarında şirketten ayrıldığını doğruladı, ancak ayrılış nedenine ilişkin bir açıklama yapmadı.

    Silinen LinkedIn profilinde Westgarth’ın konumunun Dubai olarak belirtilmesi dikkat çekici. Zira Rippling’in CEO’su ve hukuk direktörü de şu anda Dubai’de bulunuyor ve Rippling’in onlara tebligat yapma çabaları sonuçsuz kalıyor. Birleşik Arap Emirlikleri’nin iade konusunda çekimser bir ülke olarak bilinmesi, olaya ayrı bir boyut katıyor.

    Rippling, şimdi de o 6.000 dolarlık makbuzda gönderici olarak listelenen “Alba Basha”nın tam adını ve adresini öğrenmek için Revolut’a dava açtı. Mahkeme kayıtlarına göre Rippling, Alba Basha’nın kimliğini kesin olarak doğrulamak için kimlik ve fatura gibi tüm hesap açılış belgelerini de talep ediyor.

    Revolut ise bu talebe yanıt olarak İrlanda’nın önde gelen bir avukatını görevlendirdi. Ayrıca, Rippling’in avukatının mahkeme duruşmasında “yardımcı ama karmaşık” olarak tanımladığı bir mektubu da Rippling’e gönderdi. Ancak avukat, mektubun içeriği hakkında daha fazla detay vermedi.

    Burada açıkça belirtmek gerekir ki, Revolut’un herhangi bir yanlış davranışta bulunduğuna dair bir işaret veya suçlama bulunmuyor. Avrupa Birliği’nin katı gizlilik yasaları nedeniyle, bu tür bilgileri sağlamak özellikle bu gibi hukuk davalarında kolay değil. Temel sorunlardan biri, Revolut’a bilgi sağlama konusunda İrlanda mahkemelerinden herhangi bir emir gelmemiş olması.

    Revolut, dava hakkında özel bir yorum yapmaktan kaçınırken, genel olarak “açıklama talebi içeren her türlü mahkeme emrine uyacağını” belirtti.

    Transferin arkasındaki “Alba Basha” hakkında Revolut’un daha fazla ayrıntı sağlayıp sağlamayacağı belirsizliğini koruyor. Avrupa gizlilik yasaları kapsamındaki tek diğer seçenek, müşterinin onayı olacaktır ki bu da bu durumda pek olası görünmüyor.

    Deel ise medyaya yaptığı açıklamalarda herhangi bir yanlış davranışta bulunmadığını iddia ediyor. Deel COO’su Dan Westgarth ve Alba Basha Westgarth ise yorum taleplerine yanıt vermedi. Rippling de konu hakkında yorum yapmaktan kaçındı.

    Kanıtlar henüz kesin olmasa da, İrlanda Yüksek Mahkemesi, Alba Basha’nın kimliğini bir şekilde doğrulama konusunda Rippling’in dileklerini kabul edebileceğine dair bir ipucu verdi.

    Rippling’in avukatının, 2 Nisan’daki bir duruşmada Alba Basha’yı Dan Westgarth’a bağlayan kanıtları (ikilinin birlikte olduğu bir Facebook fotoğrafı da dahil olmak üzere) sıralamasının ardından, Yargıç Mark Sanfey, “Tesadüf olabilir, ama pek olası değil!” yorumunu yaptı.

    Bu olay, teknoloji dünyasındaki rekabetin ne kadar acımasız olabileceğini ve şirketlerin rekabet avantajı elde etmek için ne kadar ileri gidebileceğini gösteriyor. Dava, aynı zamanda kişisel verilerin korunması ve uluslararası hukuk gibi önemli konuları da gündeme getiriyor. Gelişmeleri yakından takip etmeye devam edeceğiz.