e per esser compatibile con register_global a OFF dovresti usare $_GET['a']; $_GET['b']; e $_GET['segno'];

Poi c'è uno degli errori più gravi secondo la mia insegnate di algoritmica: la divisione per zero, non fai il controllo (ma non ha niente a che vedere con il codice).

E per finire alla fine degli if(){}elseif(){} io ci metterei un else con un messaggio di errore per segnalare che il segno non è corretto, e se vuoi la serie di controlli la puoi trasformare in uno switch
Codice PHP:
<?php
$segno 
'/';
$a 10;
$b 5;

switch (
$segno){
    case 
'+':
        print 
$a+$b;
        break;
    case 
'-':
        print 
$a-$b;
        break;
    case 
'*':
        print 
$a*$b;
        break;
    case 
'/':
        print 
$a/$b;
        break;
    default:
        print 
'operazione sconosciuta';
}
?>