"Sztuczna inteligencja" - temat jak najogólniejszy, by zmieścić wszystko!

:homer:
1000062313.jpg

 
ADKq_NYzNHFXpv8-NkX70bPzNRxk8BLb-LFrC4tEsLfJHREhh2QR8UF9i6C4hECZYtxzBpvF3OXcr9ZxpkNN2W2E7FASf5z0ENUKWuhha4UpsUVc3ymfgRIfHLRsNud_tYAp0ZCwXe7JtgudUS9U0w4DMWHmQdRCtsR3MZDJeLWRZZX4G9nFErVUdrqbooTSMDWHA3o3GsewhhQvNs7T3CRgeGPWpBlyDPzzbZcveKchf-HBUJdWHc16DsXbAY0HX1XcQI_w07DnfVKRGUqTKkSqwh-g3jtl-eXd_9ItEc7UNrMTotOIOYcdF3_2f0Y1yVhwkdx2PcKKBM2lizGtY_lCwlUJqAjxE7fHoHHrRoyFwF6yP0m3vLTIJJxxBq3I0g2eYBUMkpsQCnnOdNS6ihe0h9s_URi5DOXUwGeyEMcRIzLc2tBnSrj3h_-fwYVoo3CPASxd2YqvLk-diUDI2PJcK79RxqVOSGHeKXcb5KFozvyviBt4D-4OaerhbuV5MOsJ7YK1W-ykzqVtMcLCDw37UHnLp47Yn1uQYmmxlwnUzUEX-VhdSxXxRUTc1rx3Qr8E41ly6vqjJ4pfNoufHA8kQP_QOogJPfaSkgjfxZjhbuXpx6Dpz1fTB4ZFBMBYHaIVcoMkRPg6LjeKnp12Bmxjrh6YFxf3AKWnSw=s0-d-e1-ft

Przekazano tę wiadomość dalej? Zasubskrybuj tutaj, aby otrzymywać więcej

Nic nie jest bezpieczne, bo są LLMy?

Analiza testowej aplikacji pokazuje potencjał obecnej generacji AI.​

Jun 5
Cześć, z tej strony Przemek
Kończymy właśnie 3. tydzień intensywnego 10xDevs 3.0, tym razem poświęcony bezpieczeństwu i jakości aplikacji tworzonych z wykorzystaniem AI. To dla nas ważny moduł, bo wokół AI-native developmentu narosło już sporo mitów. Jeden z najczęstszych brzmi mniej więcej tak: “AI generuje slop, dziury i kod, którego nikt nie rozumie”.
A my odpowiadamy - tylko, jeśli na to pozwolisz.
W rękach nieprzygotowanego użytkownika dokładnie tak może być. Model potrafi dopisać pozornie działające rozwiązanie, ukryć podatność pod warstwą poprawnie wyglądającego kodu, ominąć walidację, założyć nieistniejące gwarancje bezpieczeństwa albo wygenerować aplikację, której nikt później nie potrafi sensownie utrzymać.
Ale to nie jest cała historia.
W 10xDevs pokazujemy drugą stronę. AI to narzędzie, które dobrze użyte pozwala pracować z jakością i bezpieczeństwem na poziomie trudnym do odtworzenia bez niego. Nie chodzi tylko o szybsze pisanie kodu. Chodzi o test plany, analizę przypadków brzegowych, pokrycie testami, jakiego często nie dowozimy w klasycznym tempie pracy, szybkie refaktory, przeglądy architektury, analizę zależności, szukanie niespójności i rozmowę z kodem na wielu poziomach abstrakcji.
Czy to jest idealne? Nie.
Ale skala jest zupełnie inna. Możemy w krótkim czasie sprawdzić więcej hipotez, przeanalizować więcej ścieżek, zasymulować więcej błędów użytkownika i szybciej dojść do miejsc, w których system pęka. AI nie zwalnia nas z myślenia o bezpieczeństwie. Przeciwnie - wymusza bardziej świadomy proces, bo przyspiesza zarówno produkcję kodu, jak i produkcję błędnych założeń.
Zresztą w środę, na live opowiadał o tym Mateusz Chrobok - ekspert cyberbezpieczeństwa, który przez większą część live’a mówił właśnie o tym, jakie zagrożenia niesie dalsza adopcja i wdrażanie AI. Od prompt injection, przez wycieki danych, po automatyzację działań ofensywnych. Lista tematów była długa i momentami dość otrzeźwiająca.
W pewnym momencie jeden z uczestników zadał jednak bardzo dobre pytanie: skoro tyle mówimy o ryzykach, to co właściwie znajduje się po drugiej stronie tej wagi? Co równoważy te zagrożenia?
Mateusz trafnie zauważył, że to samo AI, które w rękach red teamów może być narzędziem walki, w blue teamach staje się narzędziem obrony. Pozwala szybciej analizować systemy, prowadzić równoległy research, sprawdzać hipotezy, optymalizować projekty i po prostu trzymać rękę na pulsie w świecie, w którym tempo zmian przekracza możliwości pojedynczego człowieka czy nawet niewielkiego zespołu.
W sekcji Technicznie znajdziecie dzisiaj kontynuację tego wątku. Pewien programista wydał 1500$, żeby sprawdzić, czy modele językowe potrafią samodzielnie znaleźć podatność w jego aplikacji mobilnej. Wyniki są nierówne, ale bardzo pouczające.
To praktyczny obraz tego, jak agenci mogą wspierać analizę bezpieczeństwa, gdzie zawodzą i jakiego typu błędy potrafią dziś realnie wychwycić.
Zapraszam do czytania no i udanego weekendu!

‍ Technicznie​

Zbudował wrażliwą aplikację i przekazał LLMom - Kasra Rahjerdi zbudował celowo podatną aplikację i sprawdził, które modele językowe potrafią znaleźć realny błąd bezpieczeństwa zamiast tylko pisać ładne raporty. Wyniki są nierówne: GPT-5.5 rozwiązał najwięcej prób, część modeli szła dobrym tropem, a inne zatrzymywały się na odmowach albo błędnej analizie API.
Codex i Claude Code dzwonią przez GITa - Artykuł pokazuje prosty, ale ciekawy pomysł - agenci tacy jak Claude Code i Codex, mogą wymieniać wiadomości przez wspólny stan repozytorium Git, bez osobnego serwera czy skomplikowanej infrastruktury. Narzędzie zapisuje komunikację jako wersjonowany, audytowalny log, dzięki czemu rozmowa agentów staje się częścią historii projektu.
Gemma 4 wyjaśniona na ilustracjach - Gemma 4 12B pokazuje ciekawy kierunek w projektowaniu modeli multimodalnych: zamiast osobnych, ciężkich enkoderów obrazu i dźwięku, Google DeepMind przesuwa większą część pracy bezpośrednio do LLM-a. To oznacza prostszą architekturę, mniej dodatkowych parametrów i potencjalnie szybsze przetwarzanie obrazów oraz audio.

Rozwojowo​

Pracowniku Mety, śledzenie tylko do 30 minut - BBC opisuje wewnętrzne napięcia w Meta wokół narzędzia, które ma śledzić ruchy myszy, kliknięcia i naciśnięcia klawiszy pracowników, aby wspierać trening agentów AI wykonujących zadania biurowe. Firma miała częściowo złagodzić zasady, pozwalając na krótkie wyłączenie śledzenia lub wnioskowanie o stałe wyłączenie. Good luck, folks!
Profesorowie prawa zagrożeni przez AI? - Badanie ze Stanford Law pokazuje, że w ślepych porównaniach profesorowie prawa częściej preferowali odpowiedzi generowane przez AI niż odpowiedzi napisane przez innych wykładowców. To szczególnie interesujące, bo nie chodziło o proste pytania z jedną poprawną odpowiedzią, tylko o prawo kontraktów, gdzie liczy się argumentacja, niuanse i zdolność pracy z niejednoznacznością.

Bonus​

Dawid Podsiadło w najnowszym teledysku korzysta z AI, a fani go nienawidzą.
Tak tak - nie przesadzam, zobaczcie sami tutaj.
Prawdziwa burza w komentarzach. Komentujący dzielą się tam na dwie grupy:
a) Korzystasz z AI, a AI to AI Slop == źle
b) Korzystasz z AI, a AI zaraz wszystkich zastąpi == źle
Ale co ciekawsze, jest jeszcze jedna grupa. Korzystasz z AI, AI to Slop, a zaraz to AI nas wszystkich zastąpi. Czy tylko ja widzę tutaj pewną sprzeczność?
Drogi komentujący, czy naprawdę tak bardzo szanujesz swojego idola, że ładnie brzmiące utwory wygenerowane przez algorytm są dla ciebie wystarczające, żeby przestać swojego idola słuchać? Jeśli tak, to może problem jest w tobie? A może te efekty z AI nie są najgorsze? A może ten twój idol wcale nie taki unikalny?
Niech komentarzem do całej sprawy będzie ta jedna wypowiedź Matthew McConaughey’a, który nie poleca stosowania taktyki “zamknę oczy i jakoś to będzie”:
It's coming. It's already here. Don't deny it. It's not enough. It may be for you, but it's not going to be enough to sit on the sidelines and make the moral plea. The moral plea that, no, this is wrong. It's not going to last.
There's too much money to be made and it's too productive. It's here.
I say, get your own yourself, voice, likeness, etc., trade market, whatever you got to say, get own yourself. When it comes, not if it comes, no one can steal you, but they're going to have to come to you to go, can I? Or they're going to be in breach and you'll have the chance to be your own agency and go, yeah, for this amount or no, okay?
It's coming.

Dzięki, że czytasz nasze publikacje! Subskrybuj aby nie przegapić kolejnego wydania - już w najbliższy piątek:
Zadeklaruj swoje wsparcie

Byłem na Google I/O 2026. Nie tego się spodziewałem.

Jechałem na Google I/O zobaczyć Gemini 4. Zamiast tego zobaczyłem jak Google buduje coś większego: pełną platformę dla agentów AI, od własnych chipów po standardy webowe. W tym filmie łączę kropki z keynote'u, rozmów z twórcami Antigravity i tego, co przeleciało pod radarem większości komentatorów.
Obejrzyj na YouTube.

Google I/O od kulis - suplement do materiału Marcina

W zupełnie nowym formacie podcastu Opanuj.AI zapraszamy na relację z konferencji, która była dla nas jedną wielką niewiadomą, ale też szczególnym wyróżnieniem.

Jest tylko jeden haczyk - jeden z nas faktycznie był na miejscu, a drugi próbował ustalić, czy już teraz warto rezerwować bilety na edycję 2027. Zobacz sam!

Oglądaj na Youtube lub słuchaj na Spotify.

Newsletter Opanuj.AI​

Chcesz być na bieżąco z newsami ze świata AI? Zapisz się na nasz newsletter Opanuj.AI i co poniedziałek otrzymaj 3 ręcznie selekcjonowane materiały.
Na stronie newslettera znajdziesz ostatnie i najpopularniejsze wydania - wiesz na co się zapisujesz. Dołącz do ponad 1,3 tyś subskrybentów.

Udanego weekendu,
Przemek

PS. Jeśli czekasz na kolejne wydanie Newslettera, kliknij w ❤️ poniżej - dzięki!

© 2026 Marcin Czarkowski
Paulińska 18/20, 31-065 Kraków
Wypisz się z subskrypcji
Pobierz AppZacznij pisać
ADKq_NacTwC6jV06ZgVuudUNnZNLk1MjrkfjBQmwQ2uuql5o08rGqOjb-HUKguwKr074eEvsYKUGcKG7OTOtaZDAiOxwETKqGirt3O9mCKflT7BrxRShnDcUqo2JsKJ5XFit7SpgK8HExO_n8Ul2cvm2uCzIEUgFqP1tGsQpP91Fm9nQsJCM37gZ3Gg7pRW2x6NBpnKS7MP5ZKf5x8e3hN22pHN5jLQRtBc0nLc6M1VrMj2Q4v7EaM4QMzwCgwYzwpCoJJ8ncepuxeUTbtSVRjshEWYBn8TX8CFMwsWrlD5pD4mjAJDCN5rnjR5rPJCDrD5pRne55c35pT4lhjJIevwO2LS842xKO_05LFKDhKCWJowUOOLXTEWAcMGxzUiosW1wfdov4_4ioJ2v1Essjw4ewzmMJuLhr0T_mmhHI2ON_oxuVyASsHojE_kHrTbxEUvVDOuLdNfDZG_3Nn4Hk2ob1lCej4cipH-c3OLEtAZqyyYfrnWcGCKszCmZMPIWxe21ddSdnTxwZdXWakE9pluxPmAZsGIksMjRxO-iUJv_qH6aWy31yk3sT0wdfMUocHMbSf-3C7_2ZPTDAGvtJk_570Pd420q4_48oiAmTFx1PTOLzCwFsjPQ4mIa02CLqIGjRJ1tMXqeQ6mZZdf7Wh6JvtOU4nhfJkMJ7_KoPBg=s0-d-e1-ft
ADKq_NY7blzx065QMdf0wUvCpWiNSlnI-dSumwm9mj8S47bZTCCfQON4l9Z01l_5Nbat1On-hUi2qj5EMiKqP10DWf43a0RgDr8nZ9GMoD9wY8Xd5CTov0NQhUqOgfBHWKpakkiQ0gy9NZMzAgZzKWFBr-Bh8s4iYC2b1fPBH3NaHObe9lOggieovK85NjNo642qRVQCU-tV2D7Ha4NL8Bty2RsqhSjDF0-3kwsbbvUC3AoIBL8B4sgNBjY5UqBIVoDYDIQ_oc4SLMiUIAzVEnhFb4YfnE-PDgNrjSvyVxC7Yf5RLEyarFK3sd7YIU3N3ctzliRdfusAGVhMIUefOsz2P8azdEubRrjaiAY3O9oMOTFL1LANs1HVqzaJGp84v397W5Xi9BsjFhJuTyDSiWRDID-06rs4dbg5L41uSnLGl6kQJvb3FBb7-MA2EHvTBtAzjLbAbcHpy5GDmZH_-m5-l43mW76L7IKUHaISVO6H4MeZjisoQiLvRYh8M5NDEFydrdRaWk3I9sz3yjmNmPn_9aiE9dmAF4C3IO_luhVseA=s0-d-e1-ft


:jjsmile:
 
Back
Top