Etiket: responsible ai

## Eski Y Combinator Başkanı Geoff Ralston, Yeni Bir Yapay Zeka ‘Güvenlik’ Fonu Başlattı

Girişimcilik dünyasının yakından tanıdığı isimlerden, Y Combinator’da uzun yıllar görev yapmış olan Geoff Ralston, Safe Artificial Intelligence Fund (SAIF) adını verdiği yeni bir yapay zeka (YZ) yatırım fonuyla geri dönüyor. Fonun ismi, amacını açıklamasının yanı sıra, kelime oyunuyla da dikkat çekiyor.

Ralston, fonunun internet sitesinde belirttiği gibi, özellikle “YZ güvenliğini, güvenliğini ve sorumlu kullanımını geliştiren” girişimlere odaklanacak. 10 milyon dolarlık bir üst sınırla, her bir girişime 100.000 dolarlık SAFE (Simple Agreement for Future Equity – Gelecekteki Hisse Senedi için Basit Anlaşma) yatırımı yapmayı planlıyor. SAFE, Y Combinator tarafından geliştirilen ve “yatırımı şimdi yap, fiyatı sonra belirle” prensibine dayanan bir erken aşama yatırım aracı.

Günümüzde birçok risk sermayesi şirketi (VC), YZ girişimlerine yatırım yapmaya istekli olsa da, Ralston’ın yaklaşımı YZ’nin güvenliğine odaklanmasıyla farklılaşıyor. Ralston, bu konseptin biraz geniş olduğunu kabul etmekle birlikte, amacının öncelikli hedefi güvenli YZ olan girişimleri desteklemek olduğunu vurguluyor.

TechCrunch’a yaptığı açıklamada Ralston, “Günümüzde dünyadaki YZ projelerinin büyük çoğunluğu, teknolojiyi sorunları çözmek, verimliliği artırmak veya yeni yetenekler yaratmak için kullanıyor. Bunlar özünde güvensiz olmayabilir, ancak güvenlik öncelikli konuları değil” dedi. Ralston, “Benim amacım, birincil hedefi güvenli YZ olan (çok geniş bir şekilde tanımladığım) girişimlere yatırım yapmak” diye ekledi.

Bu tanım, YZ’nin karar alma süreçlerini açıklığa kavuşturan veya YZ güvenliğini ölçen, YZ’nin güvenliğini artırmaya odaklanan girişimleri içeriyor. Ayrıca, fikri mülkiyeti koruyan, YZ’nin uyumluluk gereksinimlerine uymasını sağlayan, dezenformasyonla mücadele eden ve YZ tarafından oluşturulan saldırıları tespit eden ürünler de Ralston’ın odağında. Dahası, daha iyi YZ tahmin araçları ve şirket sırlarını dışarıya sızdırmayan YZ destekli iş müzakere araçları gibi, güvenliği göz önünde bulunduran fonksiyonel YZ araçlarına da yatırım yapmak istiyor.

Bu tanım, birçok VC’nin peşinde olduğu YZ girişimlerinin bir listesi gibi görünse de, Ralston’ın desteklemeyeceği bazı alanlar da bulunuyor. Bunlardan biri, tamamen otonom silahlar.

Ralston, “YZ’nin kesinlikle güvensiz olabilecek (olacak) kullanımları var: Biyo silahlar yaratmak için teknolojiyi kullanmak, insan müdahalesi olmadan konvansiyonel silahları yönetmek vb.” dedi. Hatta, YZ silahlarından gelen saldırıları tespit edebilecek veya önleyebilecek “silah güvenlik sistemlerini” finanse etmek istiyor.

Bu yaklaşım, günümüzün savunma teknolojisi kurucuları ve VC’lerinin çoğundan farklı, aykırı bir görüş sunuyor. Daha önce TechCrunch’ın haber yaptığı gibi, YZ silahları geliştiren bazı kişiler, bu tür silahların insansız çalışmasının daha iyi olacağı fikrini giderek daha fazla dile getiriyor.

Günümüzde YZ alanı VC’ler için oldukça kalabalık bir pazar. Ralston, bu noktada Y Combinator bağlantılarının kendisine bir avantaj sağlayacağını umuyor. Ralston, üç yıl başkanlık (yerini Garry Tan’e bıraktı) ve on yılı aşkın bir danışmanlık görevinin ardından 2022’de YC’den ayrılmıştı.

Ralston, köklü girişim hızlandırma programında yaptığı gibi mentorluk sunmayı ve girişimlere YC’ye nasıl başvuracakları konusunda koçluk yapmayı planlıyor. Ayrıca, geniş yatırımcı ağına erişim sağlamalarına da yardımcı olmayı vaat ediyor.

Ralston, fonun büyüklüğü, kaç girişimi desteklemeyi planladığı veya yatırımcılarının kim olduğu konusunda bilgi vermekten kaçındı.

## Geoff Ralston Bets on Responsible AI with New “SAIF” Fund

Geoff Ralston, former president of Y Combinator and a familiar face in the startup ecosystem, is diving back into the investment world with a focused mission: ensuring the safe and responsible development of artificial intelligence. Ralston announced the launch of his new venture, the Safe Artificial Intelligence Fund (SAIF), on Thursday. The fund’s name cleverly reflects its core thesis.

SAIF aims to invest in startups dedicated to enhancing AI safety, security, and responsible deployment. According to the fund’s website, Ralston plans to deploy $100,000 checks using the SAFE (Simple Agreement for Future Equity) investment vehicle – a tool pioneered by Y Combinator. The fund will have a $10 million cap.

While the AI investment landscape is crowded, Ralston’s focus distinguishes SAIF. He is specifically targeting startups whose primary objective is AI safety.

“The vast majority of AI projects out in the world today are using the technology to solve problems or create efficiencies or create new capabilities. They are not necessarily intrinsically unsafe, but safety is not their primary concern,” Ralston told TechCrunch. “I intend to fund startups whose primary objective is safe AI — as I have (very broadly) defined it.”

The fund will target a broad range of companies. This includes ventures working to improve AI transparency by clarifying AI decision-making processes and those developing benchmarks for AI safety. SAIF also seeks to invest in solutions that protect intellectual property, ensure AI compliance, combat disinformation, and detect AI-generated attacks. Furthermore, Ralston is interested in functional AI tools built with inherent safety features, like advanced AI forecasting platforms and AI-powered negotiation tools designed to prevent the inadvertent disclosure of confidential information.

Ralston makes it clear that some AI applications are off-limits. Fully autonomous weapons are a prime example.

“There are certainly uses of AI which would (will) be unsafe: using the technology to create bioweapons, to manage conventional weapons without a human in the loop, etc.,” he explained. He expressed interest in funding “weapon safety systems” capable of detecting and preventing AI weapon attacks. This stance contrasts with some viewpoints within the defense tech sector, where some advocate for autonomous AI weapon systems.

Ralston hopes his experience at Y Combinator, where he served as president for three years and an advisor for over a decade before departing in 2022, will give him a competitive edge. He plans to mentor the startups he invests in, offering guidance similar to his time at the accelerator. He will also help them navigate the Y Combinator application process and leverage his extensive investor network.

While Ralston has kept specific details about the fund’s size, the number of startups he intends to support, and the identities of his Limited Partner (LP) backers under wraps, his new fund signals a dedicated push towards a more responsible and secure AI future.